Comenzando con las redes neuronales para el pronóstico

Necesito algunos recursos para comenzar a usar redes neuronales para el pronóstico de series temporales. Soy cauteloso de implementar algún documento y luego descubrir que han exagerado mucho el potencial de sus métodos. Entonces, si tiene experiencia con los métodos que sugiere, será aún más increíble.

— Richard Hardy
fuente

Tenga en cuenta que las NN son bastante ... obsoletas.

@jason, NN se han caracterizado como "regresión sin ética", ya que no solo se ajustan demasiado, sino que cometen el error de "creer en los datos" en lugar de "cuestionar la consistencia de la señal"

— IrishStat

Las NN no son totalmente obsoletas. Tienen los mejores puntajes en varios puntos de referencia importantes actualmente abordados por la comunidad de ML. Además, son el mejor aproximador de funciones diferenciables multipropósito. Vea el trabajo de los grupos de Bengio, Hinton y Lecun de los últimos 5 años.

— bayerj

Leí el artículo de Bengio y Lecun y me hace cambiar de opinión un poco, pero lo que están haciendo es muy diferente de las redes neuronales históricas. El OP quiere trabajar con series de tiempo, donde hay varios métodos que pueden funcionar con series de tiempo univariadas y en realidad le brindan información útil sobre las series de tiempo (vienen a la mente los DLM). Si tiene datos más allá de la serie de tiempo en sí, puede usar una variedad de otros métodos (LM, etc.) que son sencillos y también esclarecedores. ¿Por qué usar una caja negra con diales sin etiqueta cuando puedes hacer algo comprensible?

— Wayne

Por supuesto, las redes neuronales utilizadas en los años 80/90 son diferentes de las que usa actualmente y siguen siendo un área de investigación muy activa. Además, nunca usas redes neuronales cuando te importa la interpretabilidad. Los usas cuando te importa el error de predicción. Las redes neuronales son rápidas y resuelven problemas en los que otros métodos fallan. Son agradables porque son simples desde una perspectiva conceptual debido a la falta de suposiciones sobre los datos que está modelando (excepto el ruido gaussiano cuando se usa con el error al cuadrado). Tienen sus propios méritos y defectos.

— bayerj

Respuestas:

Aquí hay una buena introducción rápida: introducción a las redes neuronales. Tenga en cuenta que R tiene una funcionalidad de red neuronal, por lo que no necesita perder tiempo implementando NN usted mismo hasta que lo pruebe y decida que parece prometedor para su aplicación.

Las redes neuronales no son obsoletas, pero han pasado por un par de ciclos exagerados, y luego de darse cuenta de que no hacen todo como se afirma, su reputación se debilita por un tiempo (actualmente estamos en uno de esos) . Las redes neuronales son buenas para ciertas tareas y, en general, son mejores para tareas en las que un humano puede hacer una tarea similar, pero no puede explicar exactamente cómo lo hacen.

Las redes neuronales no le brindan mucha información sobre el sistema que está utilizando para analizar, incluso después de que estén capacitados y funcionen bien. Es decir, pueden predecir lo que sucederá (para algunos sistemas), pero no decirle por qué. En algunos casos, eso está bien. En otros, eso no está bien. En general, si lo desea o especialmente si ya comprende las reglas de cómo funciona algo, puede utilizar otras técnicas.

Pero, para ciertas tareas, funcionan bien.

Para series temporales en particular, vea la discusión de esta pregunta: forma adecuada de usar la red neuronal recurrente para el análisis de series temporales

— rossdavidh
fuente

Si bien se centra en el reconocimiento de patrones estadísticos, en lugar de la predicción de series de tiempo, recomendaría encarecidamente el libro de Chris Bishop Redes neuronales para el reconocimiento de patrones porque es la mejor introducción a las redes neuronales en general, y creo que sería una buena idea obtener para hacer frente a las posibles dificultades en el uso de redes neuronales en un contexto más simple, donde los problemas se visualizan y entienden más fácilmente. Luego pase al libro sobre redes neuronales recurrentes de Mandic y Chambers . El libro del obispo es un clásico, nadie debería usar redes neuronales para nada hasta que se sientan seguros de que comprenden el material contenido en ese libro; ¡ANN hace que sea demasiado fácil pegarse un tiro en el pie!

También estoy en desacuerdo con mbq, nn no son obsoletos, aunque muchos problemas se resuelven mejor con modelos lineales o técnicas de aprendizaje automático más modernas (por ejemplo, métodos de kernel), hay algunos problemas donde funcionan bien y otros métodos no. Todavía es una herramienta que debería estar en nuestras cajas de herramientas.

— Dikran Marsupial
fuente