Добрый день Руслан.
Попробовал на всех свичах в ветке отключить querier, но это не очень помогло, коммутаторы также грузятся и уходят в себя + дроп опять начал стремительно расти на транках.
Попробую перешить свичи сегодня или завтра. Где можно взять прошивку 6.00.В51 на ftp лежит последняя 5.01.B65?

Пробовали прошивки 5.01.B65, 6.00.B27. На всех них пробовали отключать querier, также по всей сети где стоит 3526 и настроен мультикаст отключали опцию.
Не помогло - по вечерам свичи также грузятся под 100%.
Может есть еще какие - нибудь варианты? Как-нибудь можно продебагить проблему с мультикастом на свиче? Существует ли какая-либо методика?

Кажется нашел в чем причина.
Мультикаст до клиента подается следующим образом:
................................................................................Gi1/0/1 -- ветка 1 -- SW1.1-dlink3526(MCast vlan 4040) ......Dlink3526-N
cisco7606-(vlan 4040)-cisco3750(vlan 4040)<=>Gi1/0/2 -- ветка 2 -- SW2.1 -dlink3526(MCast vlan 4040)-.......Dlink3526-N
................................................................................Gi1/0/3 -- ветка 3 -- SW3.1 -dlink3526(MCast vlan 4040) ......Dlink3526-N

Из-за того, что у нас мультикаст на 2 уровне ведет себя как броадкаст получается что каждый фрэйм приходит на аплинк порт крайнего коммутатора в веткax -----> SW1.1 - SWN.1.

Проследив за количеством мультикаст траффика на аплинках крайних свичей в ветках получил следующие рез-ты:

Аплинк порт SWN.1:
Unicast RX 2573337632 1351
Multicast RX 355704108 3477
Broadcast RX 103122758 57

Доунлинк порт SWN.1:
Unicast RX 561400690 2439
Multicast RX 42838454 10
Broadcast RX 7020172 3

Данные MCast траффика по аплинк портам совпадают для всех крайних коммутаторов с 1 аггрегациии (cisco3750), в среднем разброс значений мультикаста составляет 100 пакетов от свича к свичу.
Статистика собрана на основе 20 веток <=> 20 коммутаторов <=> 20 UPlink Ports.

Теперь вопрос, силами крайних 3526 можно с этим как-то бороться или нужно как-нибудь фильтровать мультикаст траффик на аггрегации?

Да забыл сказать, уже на 2 свичах от крайних результат составляет в среднем:

-------------------------------------------------
UPlink порт SW-N.2:

Unicast RX 2018096662 = 554
Multicast RX 93118524 = 37
Broadcast RX 6933815 = 6
-------------------------------------------------
DWNlink порт SW-N.2:

Unicast RX 1754282095 = 541
Multicast RX 4782721 = 19
Broadcast RX 1785614 = 0
-------------------------------------------------