@borisuperful, AC3 и DTS это разные форматы. У них разная степень сжатия исходного материала.AC3 и просто DTS относятся к Lossy форматам, т.е. сжатие с потерями качества.Психоакустика.
У DTS есть еще разновидность формата как DTS-HD MA- этот формат относится к Lossless, без потерь в качестве. Поэтому если гонитесь за максимальным качеством то выбирайте DTS-HD MA.
Если нужен формат с потерями и чтобы немного места занимал, то AC3 очень хорошее решение. А если хочется своего рода золотую середину, то кодируйте просто в DTS.
Что касается программ, то для AC3 могу посоветовать также Adobe Audition и Видеоредактор Magix Vegas Pro. В состав обоих этих программ входит лицензионный кодировщик Dolby- качество будет примерно на одном уровне,т.е. вы разницы не заметите. Я сам обычно через Audition кодирую. А из бесплатных программ могу посоветовать ffmpeg-замечательно работает и быстро кодирует. По качеству он чуть чуть уступает лицензионным аналогам, у ffmpeg немного расщепляются верхние частоты.Это видно только при частотном спектре сигнала и то совсем немного. На слух никакой разницы не почувствуете.
По кодированию в DTS советую обратить внимание на продукт DTS-HD Master Audio Suite Encoder v2. Удобный и надежный кодировщик , кодирует как в DTS так и в DTS-HD MA форматы.