¿Cuáles son buenas referencias para entender el aprendizaje en línea?

Específicamente, solicito recursos para aprender sobre los sistemas de aprendizaje automático que pueden actualizar sus respectivas redes de creencias (o equivalentes) durante la operación. Incluso me he encontrado con algunos, aunque no pude marcarlos.

Como puede imaginar, es un tema bastante desafiante para buscar en Internet.

La mayoría de los algoritmos de aprendizaje en línea provienen de al menos uno de estos linajes:

• el perceptrón

  Los perceptrones de última generación son el algoritmo pasivo-agresivo , el perceptrón estructurado y sus muchas variedades.

• La avena

  El winnow ha sido reformulado como métodos de gradiente exponencial , y también puede aplicarse a problemas estructurados . También hay variedades que tratan directamente con la regularización L1 (para garantizar la escasez), como SMIDAS .

• Descenso de gradiente estocástico

  El descenso de gradiente estocástico es cuando aplica la optimización en línea a un posible problema por lotes. Los algoritmos de última generación son LaSVM , Pegasos de Leon Bottou , y muchos algoritmos de redes neuronales se pueden entrenar fácilmente en este entorno. Vea el tutorial de Theano para muchos ejemplos. Tal vez EM en línea encaja aquí.

• filtrado de partículas

  Esto también se conoce como inferencia rao-blackwellized, y le permite actualizar un modelo gráfico / probabilístico a medida que llegan más datos. Algunos buenos ejemplos son los modelos de temas en línea y el tutorial de NIPS sobre SMC .

También hay algunos problemas más amplios con el aprendizaje en línea, como la conversión en línea a lote , técnicas de presupuesto para el aprendizaje en línea con núcleos (como este documento , este documento y este documento ), muchos sabores diferentes de límites de generalización, preocupaciones de escasez (y también el documento de SMIDAS que cité anteriormente), hashing para ahorrar memoria y muchos otros problemas.

Avrim Blum como una excelente encuesta que recomendaría comenzar con: "Algoritmos en línea en el aprendizaje automático" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

Si está buscando información sobre la teoría detrás del aprendizaje en línea, el libro de Cesa-Bianchi y Lugosi es una referencia sólida.

Hay un buen tutorial de ICML 2008 de Yoram Singer y Shai Shalev Shwartz sobre la teoría y la práctica del aprendizaje en línea.

Aprendizaje automático - Materiales del curso - Stanford http://www.stanford.edu/class/cs229/materials.html

Video conferencias sobre aprendizaje automático e inteligencia artificial http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

Procesos gaussianos para el aprendizaje automático http://www.gaussianprocess.org/gpml/