Para desactivar la animación a pantalla completa, tienes que abrir el Terminal, en Aplicaciones > Utilidades y añadir este comando:
defaults write -g NSWindowResizeTime -float 0.001
Se utiliza una medida de tiempo en segundos. No es posible desactivar totalmente el efecto puesto que 0 no funciona, así que para eliminarlo colocamos una cifra lo más baja posible.
Este comando desactiva también otras animaciones de OS X relativas al redimensionado de ventanas y cuadros de diálogo.
Para eliminar este ajuste y volver al comportamiento original de OS X, solo tienes que usar el comando:
defaults delete -g NSWindowResizeTime
Que borra esa preferencia.