Интересуют следующие вопросы
1) Можно ли заблокировать трафик по расширению? Допустим не хочу чтобы некоторые пользователи могли скачивать информацию с интернета например раширения rar или exe...
2) Как можно забанить такие программы как download manager, если он идёт по 80 порту, такому же как и http трафик...(не хочу чтобы им пользовались на модеме) Торентс? Если он пользуется портами от 5000 до 50000....

Пожалуйста, знающие люди попробуйте помочь в этих 2х вопросах, потому что ставить отдельно сервер большой напряг... Заранее спасибо.

В чём напряг то? Притом, с твоими запросами без него никак (может тебе ещё сказать как модем настроить сервером игр, а заодно прошить чтобы в нём появилось 40Гб и скорость увеличилась до 500Мб).
Ставьте ТрафикИнспектор - и копайтесь в настройках. Притом многое, я думаю, не реализовать