Модем DSL-2520U BRS D4, прошивка 1.0.4 (заводская)
Когда трафик забит под завязку, при входе в настройки модема он сам перезагружается.
Это нормально?

До этого был ZTE 831, работал на ADSL1, у него при таких случаях меню просто долго грузилось, но сам он не перезагружался.
D-link работает на ADSL2+ (как и у всех сейчас наверно).

2520 слабопроизводительная модель, поэтому при сильной нагрузке данное поведение весьма возможно.

Понятно. А с какой модели начинаются высокопроизводительные модемы?

dsl-2640U - более производительная модель. Желательно взять на тест и проверить работоспособность именно в Вашей топологии при Ваших требованиях.

А что скажите про DSL-2540U? Просто у меня уже есть WiFi роутер и мне нужен только мощный ADSL2+ модем.

25xx серия по производительности одинакова.