¿Regularización y escalado de funciones en el aprendizaje en línea?

Digamos que tengo un clasificador de regresión logística. En el aprendizaje por lotes normal, tendría un término regularizador para evitar el sobreajuste y mantener mis pesos pequeños. También normalizaría y escalaría mis características.

En un entorno de aprendizaje en línea, obtengo un flujo continuo de datos. Hago una actualización de descenso de gradiente con cada ejemplo y luego la descarto. ¿Se supone que debo usar el término de escala y regularización de funciones en el aprendizaje en línea? En caso afirmativo, ¿cómo puedo hacer eso? Por ejemplo, no tengo un conjunto de datos de entrenamiento para escalar. Tampoco tengo la validación configurada para ajustar mi parámetro de regularización. Si no, ¿por qué no?

En mi aprendizaje en línea, recibo una corriente de ejemplos continuamente. Para cada nuevo ejemplo, hago una predicción. Luego, en el siguiente paso, obtengo el objetivo real y hago la actualización de descenso de gradiente.

El proyecto de código abierto Wongpal Wabbit incluye una implementación de SGD en línea que se mejora mediante el cálculo sobre la marcha (en línea) de 3 factores adicionales que afectan las actualizaciones de peso. Estos factores se pueden habilitar / deshabilitar mediante sus respectivas opciones de línea de comando (de forma predeterminada, los tres están activados, la --sgdopción los apaga a todos, es decir: recurre al SGD "clásico").

Las 3 opciones de mejora de SGD son:

• --normalized actualizaciones ajustadas para la escala de cada característica
• --adaptive utiliza gradiente adaptativo (AdaGrad) (Duchi, Hazan, Singer)
• --invariant actualizaciones de importancia (Karampatziakis, Langford)

Juntos, se aseguran de que el proceso de aprendizaje en línea realice una compensación / ajuste automático de 3 vías para:

• escala por función (valores grandes frente a pequeños)
• disminución de la tasa de aprendizaje por función según la importancia de la función
• por característica ajuste de la tasa de aprendizaje adaptativo para la prevalencia / rareza de la característica en ejemplos

El resultado es que no es necesario normalizar previamente o escalar diferentes características para que el alumno sea menos sesgado y más efectivo.

Además, votepal wabbit también implementa la regularización en línea a través del descenso de gradiente truncado con las opciones de regularización:

• --l1 (Norma L1)
• --l2 (Norma L2)

Mi experiencia con estas mejoras en múltiples conjuntos de datos fue que mejoraron significativamente la precisión del modelo y una convergencia más uniforme cuando cada uno de ellos se introdujo en el código.

Aquí hay algunos documentos académicos para obtener más detalles relacionados con estas mejoras:

• Importancia en línea Actualizaciones conscientes de peso por Nikos Karampatziakis y John Langford + Diapositivas de charla sobre este documento
• Escaso aprendizaje en línea a través de gradiente truncado por John Langford, Lihong Li y Tong Zhang
• Métodos adaptativos de subgrado para aprendizaje en línea y optimización estocástica por John Duchi, Elad Hazan, Yoram Singer

Este documento describe una técnica para la regularización en línea que aplican a varios algoritmos, incluida la regresión logística: http://ai.stanford.edu/~chuongdo/papers/proximal.pdf

sí, ciertamente necesita regularización ... también ayuda a la pendiente del gradiente (e inicializa la tasa de aprendizaje a 1 / C)

ver, por ejemplo, el documento SGD-QN http://leon.bottou.org/papers papeles de bottou

usted realmente no ha explicado lo que quiere decir con aprendizaje en línea: por ejemplo, para cada punto, ¿obtiene el valor objetivo? No sé cómo incorporaría ... buscando C ... Supongo que tendría varios clasificadores con diferentes términos de regularización y rastrearía el error de predicción (antes de actualizar los pesos)