Es bastante intuitivo que la mayoría de las topologías / arquitecturas de redes neuronales no son identificables. Pero, ¿cuáles son algunos resultados bien conocidos en el campo? ¿Existen condiciones simples que permiten / evitan la identificabilidad? Por ejemplo,
- todas las redes con funciones de activación no lineales y más de una capa oculta no son identificables
- todas las redes con más de dos unidades ocultas no son identificables
O cosas como estas. NOTA : No estoy diciendo que estas condiciones impidan la identificabilidad (aunque me parecen muy buenas candidatas). Son solo ejemplos de lo que quiero decir con "condiciones simples".
Si ayuda a reducir la pregunta, siéntase libre de considerar solo las arquitecturas recurrentes y de avance. Si esto todavía no es suficiente, estaría satisfecho con una respuesta que cubra al menos una arquitectura entre MLP, CNN y RNN. Eché un vistazo rápido en la Web, pero parece que la única discusión que pude encontrar fue en Reddit. Vamos, gente, podemos hacerlo mejor que Reddit ;-)