Extremt komplex fråga att få till ordentligt i vista, och något chansartat om det alls går med given audio hw såvitt jag kunnat avgöra. Svårt att säga något konkret generellt om det.

Hela directsound frameworket är ju slopat där och ersatt med rent mjukvaruemulerade strukturer, så många detaljer funkar dåligt. Spdif loopback bör du undvika i sammanhanget, syftet med det är väl främst att få en input device som kan användas för att kringå drm.

Trots problemen har jag lyckats få till fungerande passthrough både med asus xonar (ett annat kort med hw realtids encoding av dts/ac3) och med intelljudet som de flesta nya laptops har (nån generic hd audio). Utöver ac3filtrets egna inställningar (eller ffdshows om man kör den) så spelar applikationen som hostar filtret in, så det kan va värt att prova olika när man experimenterar. Mediaplayer classic har bra möjligheter att forcea output device och val mellan internt stöd och externa dshowfilter. Går det inte ställa in output device i applikationen så får man ju ändra windows default till att alltid köra med den digitala utgången, och hoppas på att detta val gör att kortets virtuella devicer bypassas (kolla även samtliga inställningar som vista visar för den digitala utgången, man behöver kryssa i manuellt vad som stöds av receivern för att det ska släppas igenom intakt).

Sen bör man ju försäkra sig om att de filter som laddas verkligen är dom man tror i alla lägen, så graphedit kan underlätta.
Jag stötte på buggar både i ac3filter och ffdshow när jag provade nyligen i vista, och den enda lösning som fungerade direkt utan glitches var att använda ffdshow för ac3 passthrough, och ac3filter för dts (enbart). Senaste ffdshow tryoutsen gav antingen stutter med dts eller udda timing artefakter i videon, och ac3 via ac3filter gav extrem a/v-desync bortom vad som gick att kompensera för.