WMP10なら
[HKEY_CURRENT_USER\Software\Microsoft\MediaPlayer\Preferences\VideoSettings]
"UseVMROverlay"=dword:00000001
"UseVMR"=dword:00000001
WMP10のGUI上だとオーバーレイと高画質モードが排他になるけど
レジストリを直接いじることでオーバーレイと高画質モードが同時にONになり
結果VMR7のミキシングモードになる。
ついでに
DWORD値 "ForceDeinterlaceMode"を追加することでWMP10でWMV9のデインターレースモードを強制することもできる。
それについて詳しくはこっちで
http://pc5.2ch.net/test/read.cgi/avi/1093804611/601 あとはPwoerDVD5なんだけど
[HKEY_LOCAL_MACHINE\SOFTWARE\CyberLink\PowerDVD]
"EnableVMR"=dword:00000001
でVMR7のミキシングモードになる。
他のアプリは知らない。