Сразу скажу, что проблема странная. Я сам сисадмин, понимаю что есть IGMP, мультикаст, вроде знаю с какой стороны к ним подходить.
Со стороны провайдера сделали, всё что могли (я у них работал когда-то, так что тут в принципе уверен). С другим модемом тоже проблем нет.

Итак, симптомы: модем настроет в режиме роутера, при включении IPTV (VLС) тут же пропадает инет (причем пропадает на модеме - тест говорит, что шлюз не доступен). При выключении VLC соединение восстанавливается.
Настройки клиента (комп):
ОС - Windows 7 x64 ENG
Фаервол - встроенный, включен (отключать пробовал)
Антивирь - Microsoft Essential (сетевого модуля у него нет)
LAN1
IP - DHCP (192.168.1.2/24 и пр., что выдал модем)
LAN2
IP - 192.168.5.5/24, шлюз и ДНС не указан.

Настройки модема:
Прошивка (тоже самое был и с 1.12):
BoardID: DSL-2640U
Software Version: RU_1.24
Bootloader (CFE) Version: 1.0.37-12.1
Release Date: Mar.24,2010
Wireless Driver Version: 4.170.16.0.cpe2.1sd1

WAN:
Port/VPI/VCI VLAN Mux Con. ID Category Service Interface Protocol IGMP QoS
0/0/33 Off 1 UBR pppoe_0_0_33_1 ppp_0_0_33_1 PPPoE Disabled Disabled
0/0/33 Off 2 UBR br_0_0_33 nas_0_0_33_1 Bridge N/A Disabled
LAN:
Enable UPnP - да
Enable IGMP Snooping - да (Standard Mode)
Interface Group
Enable virtual ports on eth0 - да
Default - LAN1, LAN2, LAN3
IPTV - LAN4, nas_0_0_33_1

WIFI выключен (чтоб не мешал экспериментам)

Соответственно комп и модем соединены двумя проводочками: LAN1 (comp) <-> LAN1(modem) и LAN2 (comp) <-> LAN4(modem)
VLC привязана с интерфейсу 192.168.5.5

Пока выключено VLC - всё работает отлично. Инет бегает, модем доволен.
Как только включается VLC тут же пропадает инет (при этом ТВ работает). Пропадают пинги с модема до шлюза, короче говоря связи нет (хотя PPPOE соединение на модеме "живое"). По индикации модема видно, что трафик идет по LAN4, как и должно.

Диапазон мультикаст-адресов, которые использует провайдер: 239.255.255.1-239.255.255.8

Я уже не знаю что и думать, перепробовал все варианты настроек. Есть подозрение, что при прохождении мультикаста как-то хитро сносит башню таблице маршрутизации на модеме. Или он просто не справляется с потоком данных.
И еще одно не маловажное замечание - в режиме бриджа модем вообще не хочет устанавливать соединение с компа. Т.е. делал просто - сбрасывал все настройки, запускал мастера (Quick Setup), он все настраивал. Пробую установить PPPOE сессию - модем возвращает ошибку.
Есть еще один модем (хуавей) - он не умеет роутером работать, но через него и инет, и ТВ одновременно работают без проблем.

Буду рад любому совету.

Попробуйте установить разные значения Port для PVC.
1. Port: 0 VPI: 0 VCI: 33
2. Port: 1 VPI: 0 VCI: 33

А в целом, построение сети провайдера некорректное. Разные сервисы (Internet и IPTV) должны идти по разным виртуальным каналам PVC.

Inet. Port: 0 VPI: 0 VCI: 33
IPTV. Port: 1 VPI: 0 VCI: 33
Инет есть, ТВ вообще не пашет.
Inet. Port: 1 VPI: 0 VCI: 33
IPTV. Port: 0 VPI: 0 VCI: 33
Не работает вообще ничего.
Т.е. получается, что когда оба 0, весь трафик идет через виртуальный интерфейс ppp_0_0_33_1. Я уже совсем плохо понимаю, что происходит.

IPTV у провайдера отсажено в отдельный VLAN, так что в принципе может работать в одном канале. Пофивласть узнать ID VLAN, по которому ижет IPTV и прописать его (тока что-то мне подсказывает, что нифига не поможет)

Полностью с этим согласен. От себя добавлю: Попробуйте сбросить настройки до заводских, а потом сначала настроить подключение к IPTV, а потом уже настроить подключение к интернету (и то и другое port 0).

Создайте второе соединение не Bridge, а Mac Encapsulation Routing (MER), при этом включив IGMP Proxy в настройках MER-интерфейса WAN, и IGMP Snooping на LAN.