Дак ребята подскажите пожалуйста. Проблема не решена. Надо что бы модем не пускал к себе не прописаных в DNS сервере. Почему то не выходит. Подскажате если сервер отключить то тогда затемняются настройки добавления пользователей Может в этом проблема.

DNS-сервер знимается определение IP-адреса по символическому имени. К ограничению Интернета имеет очень косвенное отношение.
На DNS-сервере никто не "прописывается". Все-таки почитайте основы, а не фантазируйте.

Мне надо чтобы DHCP (извините а не DNS) сервер не раздовал ни LAN ни соответственно интернет. Я прописываю IP и MAC в DHCP Reservations List и отключаю DHCP (после чего затемняются настройки DHCP Reservations List ). Мне кажется именно здесь проблема.

Тема уже была раскрыта несколько раз.
Вы отключаете DHCP-сервер и удивлены тем, что его конфигурация становится недоступна.
После отключения DHCP-сервера, модем не будет выдавать IP никому. Ни о какой привязке при этом речи быть не может.

Для Вашей задачи необходимо:
1. Включить DHCP-сервер
2. С помощью функции DHCP Reservation сопоставить mac-адрес каждого клиента, которому разрешен Интернет, с любым IP-адресом из некоторого диапазона IP-адресов.
Сопоставить mac-адрес клиента, которому запрещен Интернет, с любым IP, не входящим в этот диапазон.
3. С помощью функции Outgoing Filters запретить интернет со всех IP-адресов, не входящих в заданный диапазон.

Данный метод не защищает от подмены клиентом IP-адреса или mac-адреса.
Для решения подобных задач применяют BRAS - устройство уровня доступа. Например, как уже написали выше, DSA-3110. С его помощью можно завернуть интернет-трафик в PPPoE или PPTP-туннель, и для выхода в интернет проходить авторизацию по логину и паролю.