Uma dica achada aqui e que deixa o gerenciamento de memória do Mac OSX do mesmo jeito que no Linux, gaste toda memória física primeiro pra depois usar o swap:

Desligue a paginação para o disco

sudo launchctl unload -w /System/Library/LaunchDaemons/com.apple.dynamic_pager.plist

e depois reinicie o computador. Os processos que usam muita RAM irão rodar sem problema, anteriormente eles rodavam mais lentos pois simplesmente acessavam o disco para qualquer coisa.

Para reabilitar o tipo de acesso anterior basta usar o comando acima com a opção load ao invés de unload, como sugerido pelo macworld.