Во-первых, "перекодировка" с помощью НЕРО Вижн - бооольшая ошибка. Это приложение никак не связано с понятием "качество", зато хорошо знает понятие "количество".
Во-вторых, процесс перекодирования ДТС выглядит так: дтс---рсм---дтс, т.е. распаковка и новое кодирование, что автоматом убъёт ваши ожидания от звука дтс.
Для вас могу лишь посоветовать другой вариант пережатия фильма (только видео, звук оставить оригинальный): ставьте DVD Rebuilder вкупе с кодером CCE (Cinema Craft Encoder). Ставьте в ССЕ как минимум два прохода и вперёд!
Если появится непреодолимое желание разобрать и перекодить дтс - эту тему надо рассматривать отдельно, но честно, оно того не стоит. Хотите более компактный звук - лучше оставьте ас3.