На сайте указано что пара DEV-301M + DEV-301S может работать в режиме "5 Mbps - 1525 метров".
Вопрос: как этого добиться?

В режиме 10 Мбит они сеть не поднимают, т.к. расстояние м/у ними 1200-1300 метров.

Характеристики и дальность работы идентичны обычному DEV-301:
5 Mbps - 5000 футов или 1525 метров
10 Mbps - 4000 футов или 1220 метров
15 Mbps 3500 футов или 1070 метров

Это расчетная скорость (синтетический тест).
В реальности могут быть иные значения, так как очень многое зависит от качества/физических параметров линии.

_________________
С уважением, Давыдов Денис.

Кк можно проверить сможет ли данная линия поднять 5Мбит, т.е. 1500 метров? И что можно сделать по улучшению сигнала?

1. Выяснить, "потянет" ли данная линия 5Mbit/s - можно опытным путем либо с использованием анализатора линии (измерив уровень помех и затухания сигнала).
2. Для улучшения параметров линии можно предпринять следующие меры:
Использовать экранированную витую пару.
Проложить линию вдали от силовой проводки.

_________________
С уважением, Давыдов Денис.