こんにちわ。
TuneBrowserの排他モードのご理解は、書かれている通りです。すいませんがMacの排他モードのことは触ったことがないので、わたしにはわかりません。
排他モードで音量の調整ができないというのは、それは単に再生ソフトがサボっているだけのように思うのですが、どうでしょうか。排他モードで音量調整ができなくなる理由が思いつきません。
ご質問の趣旨とちがうかもしれませんが、すこし補足します。
よく「排他モードだから音質が良い」というような表現を聞くのですが、これは正確ではないと思っています。正しくは「排他モードはビットパーフェクトの再生ができるから音質が良い」ということなのではないかと思います。
逆にいえば、音質云々を語る文脈では、排他モードかどうかというよりは、ビットパーフェクトの再生ができるかどうか、つまりOSがユーザの意図しない加工をしていないかどうか、がまず最初のステップになるのではないでしょうか。よくWASAPIの排他モードと相対する音質で語られるASIOは、排他モードというのはありませんがビットパーフェクトの再生ができるので、好評を得ているのだと思います。
もちろん、その次のステージとして、排他モードであることによるOS内経路の短縮などもメリットで挙げられる向きもあろうかと思いますが、音質を左右する要素としては、ビットパーフェクトの話よりはだいぶ影響は少なくなりそうです。
また、WindowsのTuneBrowserとMacのiTunesを比較する場合、再生ソフトの違いもさることながら、ハードウェアとくにUSB周りのちがいも大きいのではないかと推察します。
なお、TuneBrowserには、2種類のビットパーフェクトのモードがあります。Player View右下の “BITP” と書かれたインジケータをクリックすることで切り替えることができます。求道のレベルに応じて、使い分けていただければと思います。また余談ながら、ビットパーフェクトに関するわたしの考え方は、以前べつのところにも書きましたので、よろしければ参照してみてください。