El componente matemático probablemente incluiría álgebra avanzada, trigonometría, álgebra lineal y cálculo como mínimo.
Pero también piense fuera de la caja. También son necesarias buenas habilidades de programación, incluidas bases sólidas en algoritmos (Coursera tiene dos cursos sobre algoritmos) y dominio de MatLab, Octave o R (y con un lenguaje de programación flexible como Java, C / C ++ o Python). Menciono esto en respuesta a su pregunta porque en mi opinión son más habilidades de "matemática aplicada" y son fundamentales para traducir entre la teoría y las implementaciones aplicadas.
He tomado varios cursos de Coursera relacionados con el aprendizaje automático (y estoy de acuerdo con otro póster de que el aprendizaje automático del profesor Ng es fantástico) y NN. Hace unos meses, Coursera organizó un curso de redes neuronales (no estoy seguro si todavía está disponible) a través de la Universidad de Toronto y Geoffrey Hinton. Un curso excelente y exigente: conocimiento de cálculo, dominio de Octave (un clon de código abierto similar a MatLab), buen diseño algorítmico (para escalabilidad) y álgebra lineal.
También puede (aunque no sea matemática per se), pensar en temas como el procesamiento del lenguaje natural (para extracción de características, etc.), recuperación de información, estadística / teoría de la probabilidad, así como otras áreas del aprendizaje automático (para obtener más teoría). Los textos recientes como Fundamentos del aprendizaje automático (Mohri) o Introducción al aprendizaje automático (Alpaydin) pueden serle útiles para reducir la complejidad de la teoría a la implementación (solo en mi opinión, esto puede ser un gran salto), y ambos los textos son muy pesados en matemáticas, especialmente los fundamentos.
Una vez más, creo que todo se relaciona con las matemáticas y NN, pero en un sentido más amplio.