Необходимо настроить более тонко встроенный форвардинг портов средствами iptables. Но можно ли эти правила как-нибудь сохранить, чтобы при перезагрузке модема они продолжали действовать ?

Где вообще модем хранит настройки ?

Скорее всего прямо во флеш-памяти. Формат параметров регламентирован прошивкой и добавить "отсебятину" не получится. Надо собирать свою. Можно просто подредактировать родную, но это не просто... Гораздо проще сделать программу-сторож, которая будет следить за модемом и выполнять нужные команды.