Uma dica achada aqui e que deixa o gerenciamento de memória do Mac OSX do mesmo jeito que no Linux, gaste toda memória física primeiro pra depois usar o swap:
Desligue a paginação para o disco
sudo launchctl unload -w /System/Library/LaunchDaemons/com.apple.dynamic_pager.plist
e depois reinicie o computador. Os processos que usam muita RAM irão rodar sem problema, anteriormente eles rodavam mais lentos pois simplesmente acessavam o disco para qualquer coisa.
Para reabilitar o tipo de acesso anterior basta usar o comando acima com a opção load ao invés de unload, como sugerido pelo macworld.