faq обучение настройка
Текущее время: Вт июл 22, 2025 23:10

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 63 ]  На страницу Пред.  1, 2, 3, 4, 5  След.
Автор Сообщение
 Заголовок сообщения:
СообщениеДобавлено: Вс мар 21, 2010 05:29 
Не в сети

Зарегистрирован: Вт июл 14, 2009 18:25
Сообщений: 45
Спасибо, на прошивке 3.60.24 балансировка нормализовалась.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вс мар 21, 2010 10:52 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Физические соединения:
Изображение

Конфиг свитча (то, что имеет отношение к теме):
Код:
DGS-3100# show configuration running
!----------------------------------------------------------------------
!
!           DGS-3100-24 Gigabit stackable L2 Managed Switch           
!                            Configuration                             
!
!                       Firmware: Build 3.60.24                       
!     Copyright(C) 2008 D-Link Corporation. All rights reserved.       
!----------------------------------------------------------------------
 
! LINK AGGREGATION
 
create link_aggregation group_id 1 type lacp
create link_aggregation group_id 2 type lacp
create link_aggregation group_id 3 type lacp
create link_aggregation group_id 4 type lacp
create link_aggregation group_id 5 type lacp
create link_aggregation group_id 6 type lacp
create link_aggregation group_id 7 type lacp
create link_aggregation group_id 8 type lacp
config link_aggregation group_id 1 ports 1:2,2:2
config link_aggregation group_id 2 ports 1:3,2:3
config link_aggregation group_id 3 ports 1:5,2:5
config link_aggregation group_id 4 ports 1:11,2:11
config link_aggregation group_id 5 ports 1:12,2:12
config link_aggregation group_id 6 ports 1:4,2:4
config link_aggregation group_id 7 ports 1:6,2:6
config link_aggregation group_id 8 ports 1:(15-16),2:(15-16)
config link_aggregation algorithm mac_source_dest
 
! LACP
 
config lacp port_priority 1:(1-24),2:(1-24) 1 timeout 3sec



Конфиг сервера H5 (DHCP и TFTP живет на нем):
Код:
# grep bond /etc/modprobe.conf
alias bond0 bonding
options bond0 miimon=80 mode=4 downdelay=200 lacp_rate=1 xmit_hash_policy=1


В bond0 включены интерфейсы eth2-eth5.
Состояние агрегации на сервере:
Код:
# cat /proc/net/bonding/bond0
Ethernet Channel Bonding Driver: v3.4.0 (October 7, 2008)

Bonding Mode: IEEE 802.3ad Dynamic link aggregation
Transmit Hash Policy: layer3+4 (1)
MII Status: up
MII Polling Interval (ms): 80
Up Delay (ms): 0
Down Delay (ms): 160

802.3ad info
LACP rate: fast
Active Aggregator Info:
        Aggregator ID: 10
        Number of ports: 4
        Actor Key: 17
        Partner Key: 308
        Partner Mac Address: 00:24:01:64:af:73

Slave Interface: eth2
MII Status: up
Link Failure Count: 5
Permanent HW addr: 00:30:48:c8:21:c4
Aggregator ID: 10

Slave Interface: eth3
MII Status: up
Link Failure Count: 5
Permanent HW addr: 00:30:48:c8:21:c5
Aggregator ID: 10

Slave Interface: eth4
MII Status: up
Link Failure Count: 9
Permanent HW addr: 00:1b:21:4f:2a:7c
Aggregator ID: 10

Slave Interface: eth5
MII Status: up
Link Failure Count: 9
Permanent HW addr: 00:1b:21:4f:2a:7d
Aggregator ID: 10


Настройку остальных серверов приводить бессмысленно, так как проблема возникает не во время работы ОС, а в PXE загрузчике.

Загрузка серверов идет через интерфейс eth1 (в силу специфики модели матери), то есть MAC адрес, с которого идут запросы, не совпадает с адресом впоследствии образующегося бонда.

Все пакеты ходят по VLAN 1.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 10:58 
Не в сети
Сотрудник D-LINK
Сотрудник D-LINK

Зарегистрирован: Пт янв 21, 2005 11:52
Сообщений: 11212
Откуда: D-Link, Moscow
2 Vladislav Bogdanov > При использовании LACP нужно одну сторону настраивать с активным режимом, другу с пассивным. Я предполагаю, что причина данной проблемы в неправильной настройки этих режимов.

_________________
С уважением,
Бигаров Руслан.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 12:27 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Цитата:
При использовании LACP нужно одну сторону настраивать с активным режимом, другу с пассивным. Я предполагаю, что причина данной проблемы в неправильной настройки этих режимов.


Должны быть рабочими как active/active так и active/passive конфигурации. ссылка.

Linux bonding всегда работает в активном режиме. Если DGS-3100 придерживается такой же тактики (что вообще говоря было бы странно для свитча), то возникает вопрос: как включить passive режим на 3100? А лучше - как переключить active/passive LACP режим? Документация весьма скупа в этом вопросе (в смысле там про это ничего нету). Команда 'config lacp_port' тоже в общем-то отсутствует.

НО: проблема возникает ДО конфигурации бонда на линуксе, то есть в момент, когда никакими LACP ни запросами ни ответами с его стороны не может и пахнуть (особенно в последние 3 секунды перед появлением проблемы). Соответственно я подозреваю, что состояние LACP (отсутствие LACP запросов от пира в случае пассивного режима и отсутствие как запросов так и ответов в случае активного) просто игнорируется свитчом.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 13:10 
Не в сети

Зарегистрирован: Вт июн 17, 2008 18:59
Сообщений: 1203
Откуда: Минск, Беларусь
угу... если со стороны линуха бондинг разобрать, 3100 всё равно добавляет интерфейсы в транк... смотрит лишь на состояние порта, видимо...

_________________
Это текст, который можно добавлять к размещаемым вами сообщениям. Длина его ограничена 255 символами.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 14:17 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Кстати да. Состояние порта.
Первый порт серверов в выключенном состоянии на самом деле не выключен, а переведен в режим 100Mbit. Порт распарралелен на BMC контроллер, и работает как запасной IPMI-over-LAN порт, в случае, если выделенный IPMI порт не подключен.

Может быть, такое поведение и не совсем корректно, учитывая, что выделенный IPMI порт подключен, однако оно имеет право на жизнь и это не является оправданием игнора состояния LACP со стороны свитча.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 15:13 
Не в сети
Сотрудник D-LINK
Сотрудник D-LINK

Зарегистрирован: Пт янв 21, 2005 11:52
Сообщений: 11212
Откуда: D-Link, Moscow
Ссылка на рекомендации от Cisco - это не аргумент! Когда увижу ссылку на RFC, тогда продолжим разговор о том что правильно и как должно работать.

А пока, рекомендация от D-Link: одну сторону настроить как Active, вторую Passive.

_________________
С уважением,
Бигаров Руслан.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн мар 22, 2010 20:57 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Без проблем.

Расскажите плиз, как настроить 3100 в пассив. Или хотя бы посмотреть в нем текущую настройку.

Я правда плохо понимаю, о каких active/passive режимах может идти речь в случае отсутствия у одного из партнеров агрегации вообще (в моем случае у сервера, когда он находится в коде PXE загрузчика).

А RFC вы вряд-ли найдете... А вот стандарт IEEE - почти запросто. Даже бесплатно. Вот здесь. И там черным по белому написано (в пункте 5.3.9 Attaching a link to an Aggregator) :

Цитата:
Links that are not successful candidates for aggregation (e.g., links that are attached to other devices that
cannot perform aggregation or links that have been manually configured to be non-aggregateable) are
enabled to operate as individual IEEE 802.3 links. For consistency of modeling, such a link is regarded as
being attached to a compatible Aggregator that can only be associated with a single link. That is, from the
perspective of Link Aggregation, non-aggregated links are not a special case; they compose an aggregation
with a maximum membership of one link.


Собственно, именно такое поведение свитча я и хочу увидеть. Нету LACP пакетов - значит нету агрегации, просто два отдельных ethernet канала.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт мар 23, 2010 12:11 
Не в сети
Сотрудник D-LINK
Сотрудник D-LINK

Зарегистрирован: Пт янв 21, 2005 11:52
Сообщений: 11212
Откуда: D-Link, Moscow
Приведите, пожалуйста, пример вывода команд:
sh link_aggregation
sh lacp

_________________
С уважением,
Бигаров Руслан.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт мар 23, 2010 12:55 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
При выключенном сервере, только сетевые адаптеры стоят в режиме standby (никаких пакетов LACP со стороны сервера в этот момент быть не может, ни запросов, ни ответов). Сервер подключен к портам 1:3 и 2:3.
Код:
DGS-3100# show ports 1:3,2:3
Port  Port       Settings                Connection              Address   
      State      Speed/Duplex/FlowCtrl   Speed/Duplex/FlowCtrl   Learning 
---   -------    ------------------      ------------------      -------   
1:3   Enabled    Auto/Disabled           10M/Full/Disabled       Enabled   
2:3   Enabled    Auto/Disabled           10M/Full/Disabled       Enabled   
DGS-3100# show link_aggregation group_id 2

Group ID      : 2
Member Port   : 1:3,2:3
Active Port   : 1:3,2:3
Status        : enable



То есть, со стороны свитча агрегация включена. А должна быть выключена (см. цитату в моем предыдущем сообщении) в связи с отсутствием LACP-активности.

А вот состояние LAG, которая настроена, но сервер еще физически не включен в свитчи:
Код:
DGS-3100# show ports 1:4,2:4
Port  Port       Settings                Connection              Address   
      State      Speed/Duplex/FlowCtrl   Speed/Duplex/FlowCtrl   Learning 
---   -------    ------------------      ------------------      -------   
1:4   Enabled    Auto/Disabled           Link Down               Enabled   
2:4   Enabled    Auto/Disabled           Link Down               Enabled   
DGS-3100# show link_aggregation group_id 6

Group ID      : 6
Member Port   : 1:4,2:4
Active Port   :
Status        : enable



По всей видимости именно так же (в плане link_aggregation) должен выглядеть и первый листинг, чего не наблюдается.

Собственно запрошенная информация полностью:
Код:
DGS-3100# show link_aggregation

Group ID      : 1
Member Port   : 1:2,2:2
Active Port   : 1:2,2:2
Status        : enable

Group ID      : 2
Member Port   : 1:3,2:3
Active Port   : 1:3,2:3
Status        : enable

Group ID      : 3
Member Port   : 1:5,2:5
Active Port   : 1:5,2:5
Status        : enable

Group ID      : 4
Member Port   : 1:11,2:11
Active Port   : 1:11,2:11
Status        : enable

Group ID      : 5
Member Port   : 1:12,2:12                                                                                         
Active Port   : 1:12,2:12
Status        : enable

Group ID      : 6
Member Port   : 1:4,2:4
Active Port   :
Status        : enable

Group ID      : 7
Member Port   : 1:6,2:6
Active Port   :
Status        : enable

Group ID      : 8
Member Port   : 1:(15-16),2:(15-16)
Active Port   : 1:(15-16),2:(15-16)
Status        : enable

DGS-3100# sh lacp

Port  Priority Timeout
----- -------- -------
1:1   1         3 sec
1:2   1         3 sec
1:3   1         3 sec
1:4   1         3 sec
1:5   1         3 sec
1:6   1         3 sec
1:7   1         3 sec
1:8   1         3 sec
1:9   1         3 sec
1:10  1         3 sec
1:11  1         3 sec
1:12  1         3 sec
1:13  1         3 sec
1:14  1         3 sec
1:15  1         3 sec
1:16  1         3 sec
1:17  1         3 sec
1:18  1         3 sec
1:19  1         3 sec
1:20  1         3 sec
1:21  1         3 sec
1:22  1         3 sec
1:23  1         3 sec
1:24  1         3 sec
2:1   1         3 sec
2:2   1         3 sec
2:3   1         3 sec
2:4   1         3 sec
2:5   1         3 sec
2:6   1         3 sec
2:7   1         3 sec
2:8   1         3 sec
2:9   1         3 sec
2:10  1         3 sec
2:11  1         3 sec
2:12  1         3 sec
2:13  1         3 sec
2:14  1         3 sec
2:15  1         3 sec
2:16  1         3 sec
2:17  1         3 sec
2:18  1         3 sec
2:19  1         3 sec
2:20  1         3 sec
2:21  1         3 sec
2:22  1         3 sec
2:23  1         3 sec
2:24  1         3 sec


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт мар 23, 2010 13:07 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
На всякий случай, вдруг пригодится, логи свитча в момент попытки загрузки сервера (link_aggregation algorithm установлен в ip_source_dest):
Код:
23-Mar-2010 10:57:15 %TRUNK-W-PORTREMOVED: Port 1:3 removed from ch2
23-Mar-2010 10:57:15 %LINK-W-Down:  1:3
23-Mar-2010 10:57:16 %TRUNK-W-PORTREMOVED: Port 2:3 removed from ch2
23-Mar-2010 10:57:16 %LINK-W-Down:  2:3
23-Mar-2010 10:57:16 %LINK-W-Down:  ch2
23-Mar-2010 10:57:18 %LINK-I-Up:  2:3
23-Mar-2010 10:57:18 %LINK-I-Up:  1:3
23-Mar-2010 10:57:23 %TRUNK-I-PORTADDED: Port 1:3 added to ch2
23-Mar-2010 10:57:23 %TRUNK-I-PORTADDED: Port 2:3 added to ch2
23-Mar-2010 10:57:23 %LINK-I-Up:  ch2
23-Mar-2010 10:57:49 %TRUNK-W-PORTREMOVED: Port 1:3 removed from ch2
23-Mar-2010 10:57:49 %LINK-W-Down:  1:3
23-Mar-2010 10:57:49 %TRUNK-W-PORTREMOVED: Port 2:3 removed from ch2
23-Mar-2010 10:57:49 %LINK-W-Down:  2:3
23-Mar-2010 10:57:49 %LINK-W-Down:  ch2
23-Mar-2010 10:57:52 %LINK-I-Up:  1:3
23-Mar-2010 10:57:52 %LINK-I-Up:  2:3
23-Mar-2010 10:57:57 %TRUNK-I-PORTADDED: Port 1:3 added to ch2
23-Mar-2010 10:57:57 %TRUNK-I-PORTADDED: Port 2:3 added to ch2
23-Mar-2010 10:57:57 %LINK-I-Up:  ch2
23-Mar-2010 10:58:01 %TRUNK-W-PORTREMOVED: Port 2:3 removed from ch2
23-Mar-2010 10:58:01 %LINK-W-Down:  2:3
23-Mar-2010 10:58:04 %LINK-I-Up:  2:3
23-Mar-2010 10:58:09 %TRUNK-I-PORTADDED: Port 2:3 added to ch2
23-Mar-2010 10:58:41 %TRUNK-W-PORTREMOVED: Port 2:3 removed from ch2
23-Mar-2010 10:58:41 %LINK-W-Down:  2:3
23-Mar-2010 10:58:43 %LINK-I-Up:  2:3
23-Mar-2010 10:58:48 %TRUNK-I-PORTADDED: Port 2:3 added to ch2


Консоль сервера после этого всего:
Код:
Intel(R) Boot Agent GE v1.3.24                                                                                                                                               
Copyright (C) 1997-2008, Intel Corporation                                                                                                                                   
                                                                                                                                                                             
CLIENT MAC ADDR: 00 30 48 C9 43 1D  GUID: 00020003 0004 0005 0006 000700080009 
PXE-E51: No DHCP or proxyDHCP offers were received.                             
                                                                               
PXE-M0F: Exiting Intel Boot Agent.                                             
                                                                               
Reboot and Select proper Boot device                                           
or Insert Boot Media in selected Boot device and press a key                   


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт мар 23, 2010 15:56 
Не в сети
Сотрудник D-LINK
Сотрудник D-LINK

Зарегистрирован: Ср май 10, 2006 16:40
Сообщений: 12251
Откуда: D-Link, Moscow
В серверах гигабитные карточки?
Вы когда сервер включаете какие скорости на портах? Они одинаковые на обоих картах?


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт мар 23, 2010 16:46 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Да, гигабитные.
Intel Corporation 82576 Gigabit Network Connection (rev 01)

В момент старта PXE загрузчика (да и собственно уже во во время всего POST'а) оба порта подняты в 1000M/Full/Disabled. Несколько раз поднимаются/опускаются, но во время POST'а каждый раз становятся в 1000. До POST'а оба стоят на 10. Одно из сообщений 'Port 2:3 added to ch2' появляется в консоли свитча после старта DHCP запросов (они идут как раз через этот интерфейс, если это имеет значение). Порт 2:3 (и только он) очередной раз падает и встает непосредственно во время выполнения кода PXE загрузчика, как раз перед началом посыла DHCP.


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Чт апр 01, 2010 09:14 
Не в сети

Зарегистрирован: Сб мар 06, 2010 21:13
Сообщений: 13
Есть ли информация, когда агрегирование 802.3ad будет исправлено?


Вернуться наверх
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пт апр 02, 2010 10:50 
Не в сети
Сотрудник D-LINK
Сотрудник D-LINK

Зарегистрирован: Ср май 10, 2006 16:40
Сообщений: 12251
Откуда: D-Link, Moscow
Запросил ШК, разберемся.


Вернуться наверх
 Профиль  
 
Показать сообщения за:  Сортировать по:  
Начать новую тему Ответить на тему  [ Сообщений: 63 ]  На страницу Пред.  1, 2, 3, 4, 5  След.

Часовой пояс: UTC + 3 часа


Кто сейчас на форуме

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 54


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB