>>263 GUIと表記されてるものはVFW版の間違いであり、x264の使用を前提としてお答えいたします
x264のCLIとVFWは根幹部分は同じものですので同じリビジョンであれば画質的にはほぼ同じのはずです
ただし、VFW版はVFWの制約をうけてBフレームに起因する音ずれなどの弊害も出てきます
現状ではVFWは有志の方が本家のコードを改造してVFWのビルドを公開されています
また、これまた有志の方がCLI版を簡単に使うためのAVIUTL用のGUIを公開されています
とりあえず、CLI版をお使いになりたいのならそちらの使用をお勧めいたします
私の知る限りではコンシューマーが一般的に使えるh264エンコーダはx264、メインコンセプト、Neroの3種類しか知りません
何を持ってたくさんの種類と言われているのかわかりませんが、もしx264のビルドのことをおっしゃっているのなら
ビルドによってはパッチ(バグフィクスや追加機能)が適用されているものやいないものなど多数の種類があります
これらは同リビジョンでもあてられている各パッチの内容によって画質は変わってきます
長文失礼いたしました