Preguntas etiquetadas con machine-learning

Estoy tratando de entrenar una red neuronal profunda para la clasificación, utilizando la propagación inversa. Específicamente, estoy usando una red neuronal convolucional para la clasificación de imágenes, usando la biblioteca Tensor Flow. Durante el entrenamiento, estoy experimentando un comportamiento extraño, y me pregunto si esto es típico o si puedo …

10 machine-learning  classification  neural-networks  conv-neural-network  tensorflow 

En PCA, ¿hace alguna diferencia si elegimos componentes principales de la matriz de covarianza inversa O si eliminamos los vectores propios de la matriz de covarianza correspondientes a valores propios grandes? Esto está relacionado con la discusión en esta publicación .

10 machine-learning  pca  computational-statistics 

Recientemente comencé a usar la validación cruzada de muestreo de importancia suavizada Pareto (PSIS-LOO), descrita en estos documentos: Vehtari, A. y Gelman, A. (2015). Pareto suavizó el muestreo de importancia. preimpresión arXiv ( enlace ). Vehtari, A., Gelman, A. y Gabry, J. (2016). Evaluación práctica del modelo bayesiano utilizando validación …

10 machine-learning  cross-validation  mcmc  pareto-distribution  importance-sampling 

Support Vector Machines con núcleo de función de base radial es un clasificador supervisado de propósito general. Si bien conozco los fundamentos teóricos de estos SVM y sus puntos fuertes, no conozco los casos en los que son el método preferido. Entonces, ¿hay una clase de problemas para los cuales …

10 machine-learning  logistic  classification  svm  random-forest 

En la literatura de aprendizaje automático, para representar una distribución de probabilidad, a menudo se usa la función softmax. ¿Hay alguna razón para esto? ¿Por qué no se usa otra función?

10 machine-learning  distributions  softmax 

Recientemente, me interesé en el apilamiento de modelos como una forma de aprendizaje conjunto. En particular, he experimentado un poco con algunos conjuntos de datos de juguetes para problemas de regresión. Básicamente, he implementado regresores individuales de "nivel 0", almacenado las predicciones de salida de cada regresor como una nueva …

10 machine-learning  ensemble  stacking 

Actualmente estoy leyendo sobre la técnica de visualización t-SNE y se mencionó que uno de los inconvenientes de usar el análisis de componentes principales (PCA) para visualizar datos de alta dimensión es que solo conserva grandes distancias por pares entre los puntos. Los puntos de significado que están muy separados …

10 machine-learning  data-visualization  pca  tsne 

Estaba leyendo: https://en.wikipedia.org/wiki/Tf%E2%80%93idf#Definition Pero parece que no puedo entender exactamente por qué la fórmula se construyó de la manera en que está. Lo que sí entiendo: iDF debería medir en algún nivel la frecuencia con la que aparece un término S en cada uno de los documentos, disminuyendo su valor …

10 machine-learning  clustering  mathematical-statistics  text-mining  natural-language 

Me preguntaba si era posible entrenar un SVM (digamos uno lineal, para facilitar las cosas) usando la propagación hacia atrás. Actualmente, estoy en un obstáculo, porque solo puedo pensar en escribir la salida del clasificador como f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b))f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b)) f(\mathbf{x};\theta,b) = \text{sgn}(\theta\cdot\mathbf{x} - (b+1)) = \text{sgn}(g(\mathbf{x};\theta,b)) Por lo tanto, cuando intentamos calcular …

10 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

Entiendo que las redes neuronales (NN) pueden considerarse aproximadores universales a ambas funciones y sus derivadas, bajo ciertos supuestos (tanto en la red como en la función para aproximar). De hecho, he realizado una serie de pruebas en funciones simples pero no triviales (p. Ej., Polinomios), y parece que realmente …

10 machine-learning  neural-networks  function  derivative 

En la sección 7 del documento Random Forests (Breiman, 1999), el autor declara la siguiente conjetura: "Adaboost es un bosque aleatorio". ¿Alguien ha probado o refutado esto? ¿Qué se ha hecho para probar o refutar esta publicación de 1999?

10 machine-learning  random-forest  boosting 

Entiendo que el entrenamiento previo se usa para evitar algunos de los problemas con la capacitación convencional. Si uso la retropropagación con, por ejemplo, un codificador automático, sé que voy a encontrar problemas de tiempo porque la retropropagación es lenta, y también que puedo quedar atrapado en los óptimos locales …

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

¿Cuál es la dimensión VC del algoritmo vecino k más cercano si k es igual al número de puntos de entrenamiento utilizados? Contexto: esta pregunta se formuló en un curso que tomé y la respuesta dada fue 0. Sin embargo, no entiendo por qué este es el caso. Mi intuición …

10 machine-learning  self-study  k-nearest-neighbour  vc-dimension 

Solo una pregunta general. Si tiene datos de series de tiempo, ¿cuándo es mejor usar técnicas de series de tiempo (aka, ARCH, GARCH, etc.) sobre técnicas de aprendizaje automático / estadístico (KNN, regresión)? Si hay una pregunta similar que existe en la validación cruzada, por favor apúnteme hacia ella: busqué …

10 time-series  machine-learning 

He estado leyendo un poco sobre algoritmos de refuerzo para tareas de clasificación y Adaboost en particular. Entiendo que el propósito de Adaboost es llevar a varios "estudiantes débiles" y, a través de un conjunto de iteraciones sobre los datos de entrenamiento, empujar a los clasificadores para aprender a predecir …

10 machine-learning  classification  algorithms  boosting