Si entiendo el tipo de ventana de la que estás hablando, no $ (window) .unload () (para la ventana de diálogo) no te daría el gancho que necesitas?
(Y si no entendí bien, y usted está hablando de un cuadro de diálogo hecho a través de CSS en lugar de una ventana emergente del navegador, entonces todas las formas de cerrar esa ventana son elementos para los que puede registrar lectores de clics).
Editar: Ah, ahora veo que estás hablando de diálogos jquery-ui, que se realizan a través de CSS. Puede enganchar la X que cierra la ventana registrando un controlador de clic para el elemento con la clase ui-dialog-titlebar-close .
Más útil, tal vez, es decirle cómo resolverlo rápidamente. Mientras muestra el diálogo, simplemente abra FireBug e Inspeccione los elementos que pueden cerrar la ventana. Verá instantáneamente cómo se definen y eso le brinda lo que necesita para registrar los controladores de clics.
Entonces, para responder directamente a su pregunta, creo que la respuesta es realmente "no", no hay un evento cercano que pueda enganchar, pero sí, puede conectar todas las formas de cerrar el cuadro de diálogo con bastante facilidad y obtener Lo que quieras.