Respuestas:
Funcionalmente ninguno (excepto que podría ser más fácil de usar para personas con discapacidades) pero estéticamente es un poco mejor. No conozco ningún inconveniente cuando se trata de GTK3.
http://batsov.com/articles/2011/08/19/a-peek-at-emacs24/ aquí hay una buena lista de las nuevas características.
Captura de pantalla de Emacs 24 (GTK3):