Как можно узнать тип модуляции выставленной на DSLAM'е?
В каком случае ставится тот или иной тип инкапсуляции?

Тип модуляции можно посмотреть в Device info - ADSL в модеме или узнать у провайдера. LLC – это тип инкапсуляции, когда по одному виртуальному каналу (VC) передаются данные по различным протоколам. VC Mux – это тип инкапсуляции, когда по предварительно достигнутому взаимному соглашению каждый протокол назначается отдельному виртуальному каналу. Тип инкапсуляции тоже можно узнать у провайдера.