Камеру только сегодня купил, особо не разбирался, но таки способом получилось.
Впрочем не мешало бы еще поэкспериментировать с настройками записи в VLC.

В плеере VLC
Медиа-Открыть URL
забиваете, типа
rtsp://192.168.1.51:554/live2.sdp
(ip - ваша камера, live2.sdp - название 2-го потока, можно посмотреть в настройках камеры через веб-морду)

выбираете кнопку Конвертировать и вперед.
Авторизацию не требует (почему?) ведь при доступе через http авторизация всегда требуется. Наверно разница в протоколах?

При настройках по умолчанию, пишет в файл с расширением .ps
Воспроизводится тем же VLC.

Не понятно название топика.
Это не решение.
Длительная запись средствами софта не проблема, берите тот же софт от Dlink, проблема как раз в записи средствами самой камеры, ограниченной размером файла в 5 Мб.