Solo lo almacenaría en la carpeta de temas si esperaba que el favicon cambie cuando cambio el tema. Que yo no.
Un favicon es parte de la identidad total del sitio, no una función del CMS. ¿Qué sucede si utiliza software que no es WP para ejecutar diferentes partes del sitio, por ejemplo, una galería de fotos, un foro o wiki (o todo lo anterior)?
Coloque el favicon en la raíz del sitio web y todos los paquetes de software tendrán acceso a él, generalmente de forma automática (aunque es posible que tenga que eliminar los ENLACES codificados de los temas individuales).
(Editar) Para aclarar: si no se especifica LINK, todos los navegadores web modernos (excepto Seamonkey, aunque existe una opción para habilitarlo) buscan automáticamente un favicon en el directorio raíz, es decir, example.com/favicon.ico. Por lo tanto, no hay razón para agregar un elemento LINK, y una buena razón para no hacerlo.
Además, si el elemento LINK está mal formado (tiene un error tipográfico, por ejemplo) o el archivo ubicado allí está dañado o en un formato que el navegador no entiende, el navegador buscará /favicon.ico de todos modos , por lo que no tiene un archivo resultará en errores 404 en sus registros.
Hay un caso en el que un ENLACE es apropiado, y es si desea diferentes favicons para diferentes páginas de su sitio.