PHP orfunciona como C ||(que, por cierto, también es compatible con PHP; orsimplemente se ve mejor y tiene una precedencia de operadores diferente; consulte esta página ).
Se le conoce como operador de cortocircuito porque omitirá cualquier evaluación una vez que tenga suficiente información para decidir el valor final.
En su ejemplo, si mysql_connect()devuelve TRUE, entonces PHP ya sabe que toda la declaración se evaluará como TRUE sin importar lo que se die()evalúe y, por die()lo tanto, no se evalúe.
Si mysql_connect()devuelve FALSE, PHP no sabe si toda la declaración se evaluará como VERDADERO o FALSO, por lo que continúa e intenta evaluar die(), terminando el script en el proceso.
Es solo un buen truco que aprovecha la forma en que orfunciona.