Afortundamente esto puede ser deshabilitados desde la Terminal con esta instrucción:
defaults write com.apple.screencapture disable-shadow -bool true
Para hacer que los cambios entren en efecto, sal de sesión y vuelve a entrar, o reinicia SystemUIServer usando el comando de terminal
killall SystemUIServer
Para añadir el efecto de nuevo, borra la nueva preferencia:
defaults delete com.apple.screencapture disable-shadow
y luego reinicia SystemUIServer de nuevo.
Fuente: Mac OS X Hints