Вообщето видео материал как правило монтируют перед окончательным сохранением в нужный кодек. Но если монтаж не предполагается, то на лету в MPEG2 умеет кодировать например Edius, и кодек у него лучший из мне известных. QT я бы для этих целей не использовал.
Но в любом случае кодирование на лету это - постоянный битрэйт (CBR) и один проход, что всегда будет и по объёму больше и по качеству хуже, чем если это сделать после захвата в DV и монтажа, правда не в риал тайме. Лучший на сегодня кодировщик ProCoder делает MPEG2 из DV достаточно быстро и можно выбрать два прохода и VBR, что экономит место и Очень повышает качество.
MPEG4 (H.264) или DivX более менее качественно на лету кодировать не умеет ни один кодек.
Из Вегаса тоже можно кодировать в MPEG2, но в него встроен МайнКонцепт-овский энкодер, а он хуже чем у Canopus-а.