メモ。 ESXi 5.5についてる奴で試しましたが、他のバージョンでも同様だと思います。
Windowsの場合
インストール後自動でリブート
setup.exe /S /v"/qn"
リブートさせたくないとき、
setup.exe /S /v"/qn REBOOT=ReallySuppress"
このサイレントインストール用の引数はVMwareではなくmsiの仕様みたいですね。
参考
Linuxの場合
厳密に言うと全てデフォルトパラメーターでのインストールになります。
# ./vmware-install.pl -d