Hay (al menos) dos formas. Primero, escribir C-u C-c C-oen un enlace debería forzarlo a abrirse en emacs, en lugar de en una aplicación externa. En segundo lugar, puede anular permanentemente el comportamiento predeterminado agregando una entrada a la variable org-file-apps:
(add-to-list 'org-file-apps '(directory . emacs))
que le dice a org-mode que use dired para todos los enlaces de directorio. Alternativamente, podría usar customize-variablepara lograr lo mismo.
La razón por la que el comportamiento predeterminado es diferente entre OS X y Linux es que org-file-apps-default-macosxcontiene una entrada secundaria(t . "open %s")
file:enlaces se abran en diredit, o tal vez le gustaría agregar un nuevo tipo de enlace (comodiredit:) al modo org?