Computación eficiente o aproximación de la dimensión VC de una red neuronal


19

Mi objetivo es resolver el siguiente problema, que he descrito por su entrada y salida:

Entrada:

Un gráfico acíclico dirigido con nodos, fuentes y sumidero ( ).solmetronorte1metro>norte1

Salida:

El VC-dimensión (o una aproximación de la misma) para la red neuronal con topología .sol

Más detalles :

  • Cada nodo en es una neurona sigmoidea. La topología es fija, pero el algoritmo de aprendizaje puede variar los pesos en los bordes.sol
  • El algoritmo de aprendizaje es fijo (por ejemplo, propagación hacia atrás).
  • Los nodos fuente son las neuronas de entrada y solo pueden tomar cadenas de como entrada.norte{-1,1}norte
  • El nodo sumidero es la unidad de salida. Produce un valor real desde que redondeamos hacia arriba a o hacia abajo a si está a más de un cierto umbral fijo lejos de .[-1,1]1-1δ0 0

El enfoque ingenuo es simplemente tratar de romper más y más puntos, tratando de entrenar a la red en ellos. Sin embargo, este tipo de enfoque de simulación no es eficiente.


Pregunta

¿Existe una manera eficiente (es decir, en cuando se cambia al problema de decisión: ¿es la dimensión VC menor que el parámetro de entrada ?) Para calcular esta función? Si no, ¿hay resultados de dureza? kPAGk

¿Existe una manera que funcione bien en la práctica para calcular o aproximar esta función? Si se trata de una aproximación, ¿hay alguna garantía sobre su precisión?

Notas

Hice una pregunta similar sobre stats.SE pero no generó interés.


1
Podría hacer que la pregunta sea más autónoma si pudiera hacer que la función de transferencia sea más explícita. Es decir, especificar las fórmulas reales de cómo se propaga la información.
Suresh

Respuestas:


9

2resIniciar sesión(mis)sremi

No es estrictamente una respuesta a su pregunta, pero podría ayudarlo en el camino. El resultado se debe a Baum y Haussler (1989).

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.