А что за плеер? Обычно подобного рода настройки выглядят несколько... иначе.
Смысл этой "настройки цифрового выхода" в том, чтобы установить, выводить ли поток с диска как есть (если DD, значит, на ресивер пойдёт DD, если DTS - соответственно и т.д.), или преобразовывать в РСМ. Этот выбор существует для того, чтобы не оказаться в ситуации, подобной Вашей, когда на борту ресивера нет какого-либо декодера, и он не сможет декодировать поток. Для того чтобы хоть как-то таки декодировать этот поток, его можно перевести во всем понятный РСМ. Но уже только в стерео.
В связи с этим обычно эта настройка в плеере выглядит как-то так:
Dolby Digital --- выбор PCM, или BitStream (впрочем, вместо значения "BitStream" может стоять что-то иное - на разумение производителя, но главное, что это не РСМ). В случае выбора РСМ все программы ДД будут декодиться в плеере, и переводиться в РСМ для вывода наружу. Соответственно внешний ЦАП (ресивер, например) примет уже РСМ и только стерео, естественно. Аналогично и для других "систем": DTS, MPEG. Последний (МПЕГ) в современных ресиверах иногда отсутствует, в этом случае именно для МПЕГа имеет смысл поставить значение "РСМ".
Что имелось ввиду в Вашем плеере - не совсем ясно. Такое ощущение, что плеер умеет декодить только DD, и поэтому лишь для ДД предлагается конвертация в РСМ. Последнее значение (стрим\РСМ) - видимо предполагает вывод "как есть", т.е. то, что на диске, то и выводится. Для ресивера с полным набором декодеров - это оптимальный вариант. А вот с первым значением не совсем ясно - предполагается вывод только РСМ, или же конвертация всего, что может встретиться на диске в РСМ... Судя по тому, что Вы описали, примерно так и есть... Однако, получается, что плеер "понимает" не только ДД, и тогда не ясно, почему конвертировать в РСМ предлагают либо ДД отдельно, либо сразу всё? А если мне, к примеру, нужно конвертировать тольк омпег, а остальные декодеры у меня есть на борту ресивера (фактически Ваш случай)? Выходит, что придётся либо ставить для любых потоков конвертацию в РСМ, либо оставаться без звука на дисках с мпег, если мы не хотим потерять многоканальность и если нам неохота каждый раз лазать в меню... Чудной выбор производителя, ну да ладно.
Я очень хотел бы знать, в каком виде у Вас закодился звук на двд, и чем, кстати, собственно кодили? Если чем-то вроде неро вижн, и исходник был стерео (мр3, например), то вполне может быть, что как раз в мпег звук и закодился. Если есть возможность, при перекодировании исходника со стереозвуком, устанавливайте выходной формат звука что-то вроде DD 2.0 (АС3), или хоть в LРСМ - совместимость будет максимальная, но тогда, скорее всего, придётся пожертвовать пространством под видео - РСМ займёт заметно больше места на диске, чем тот же АС3. Если же у Вас на мпег4 уже был АС3, то смело приклеивайте его.
Да, не знаю, чем Вы кодите, но осмелюсь порекомендовать пару программ, хорошо справляющихся с кодированием в МПЕГ2 и МПЕГ1: TMPGEnc Plus в компании с TMPGEnc DVD Autor (последний - для авторинга и создания меню, ибо сам по себе ТМПГ энкодер авторинг не делает), или Canopus Pro Coder - этот "умеет" на выходе создавать готовый проект ДВД-Видео, но упрощённый (только сам фильм). Но эти два кодера (как и многие другие) сами по себе умеют кодить звук только в мпег, или РСМ, так что для возможности кодить в АС3 нужен отдельный софт (или иногда плаг-ины, если кодер это позволяет). Например, закодить в АС3 можно с помощью Sonic Foundry Soft Encode 5.1.
Если хотите более продвинутый двд (красивое меню, переходы по главам, некие другие "фичи", в общем "как на взрослом" двд) - немного иной подход, если хотите, расскажу.