Preguntas etiquetadas con kernel-trick

Después de realizar el análisis de componentes principales (PCA), quiero proyectar un nuevo vector en el espacio PCA (es decir, encontrar sus coordenadas en el sistema de coordenadas PCA). He calculado PCA en lenguaje R usando prcomp. Ahora debería poder multiplicar mi vector por la matriz de rotación PCA. ¿Deben …

21 r  pca  r  variance  heteroscedasticity  misspecification  distributions  time-series  data-visualization  modeling  histogram  kolmogorov-smirnov  negative-binomial  likelihood-ratio  econometrics  panel-data  categorical-data  scales  survey  distributions  pdf  histogram  correlation  algorithms  r  gpu  parallel-computing  approximation  mean  median  references  sample-size  normality-assumption  central-limit-theorem  rule-of-thumb  confidence-interval  estimation  mixed-model  psychometrics  random-effects-model  hypothesis-testing  sample-size  dataset  large-data  regression  standard-deviation  variance  approximation  hypothesis-testing  variance  central-limit-theorem  kernel-trick  kernel-smoothing  error  sampling  hypothesis-testing  normality-assumption  philosophical  confidence-interval  modeling  model-selection  experiment-design  hypothesis-testing  statistical-significance  power  asymptotics  information-retrieval  anova  multiple-comparisons  ancova  classification  clustering  factor-analysis  psychometrics  r  sampling  expectation-maximization  markov-process  r  data-visualization  correlation  regression  statistical-significance  degrees-of-freedom  experiment-design  r  regression  curve-fitting  change-point  loess  machine-learning  classification  self-study  monte-carlo  markov-process  references  mathematical-statistics  data-visualization  python  cart  boosting  regression  classification  robust  cart  survey  binomial  psychometrics  likert  psychology  asymptotics  multinomial 

El truco del kernel se usa en varios modelos de aprendizaje automático (por ejemplo, SVM ). Se introdujo por primera vez en el documento "Fundamentos teóricos del método de función potencial en el aprendizaje de reconocimiento de patrones" en 1964. La definición de Wikipedia dice que es un método para …

20 machine-learning  kernel-trick 

La función de covarianza de Matérn se usa comúnmente como función de núcleo en el proceso gaussiano. Se define así Cν(d)=σ221−νΓ(ν)(2ν−−√dρ)νKν(2ν−−√dρ)Cν(d)=σ221−νΓ(ν)(2νdρ)νKν(2νdρ) {\displaystyle C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}} donde ddd es una función de distancia …

19 spatial  gaussian-process  kernel-trick 

¿Cuál es la diferencia entre hacer una regresión lineal con una función de base radial gaussiana (RBF) y hacer una regresión lineal con un núcleo gaussiano?

18 regression  normal-distribution  kernel-trick 

¿Cuál es la diferencia entre la regresión Primal , Dual y Kernel Ridge? Las personas están usando los tres, y debido a la notación diferente que todos usan en diferentes fuentes es difícil para mí seguir. Entonces, ¿alguien puede decirme en palabras simples cuál es la diferencia entre estos tres? …

18 regression  kernel-trick  ridge-regression 

Quiero implementar un algoritmo en un documento que utiliza el kernel SVD para descomponer una matriz de datos. Así que he estado leyendo materiales sobre métodos de kernel y PCA de kernel, etc. Pero aún me resulta muy oscuro, especialmente cuando se trata de detalles matemáticos, y tengo algunas preguntas. …

18 pca  svd  kernel-trick 

Si en el núcleo PCA elijo un núcleo lineal K(x,y)=x⊤yK(x,y)=x⊤yK(\mathbf{x},\mathbf{y}) = \mathbf x^\top \mathbf y , ¿el resultado será diferente del PCA lineal ordinario ? ¿Son las soluciones fundamentalmente diferentes o existe alguna relación bien definida?

17 pca  kernel-trick 

¿Cómo puedo entender lo que hace el Kernel RBF en SVM? Quiero decir que entiendo las matemáticas, pero ¿hay alguna manera de tener una idea de cuándo será útil este núcleo? ¿Los resultados de kNN estarían relacionados con SVM / RBF ya que el RBF contiene distancias vectoriales? ¿Hay alguna …

17 svm  kernel-trick 

Más de una pregunta general. Estoy ejecutando un SVM rbf para el modelado predictivo. Creo que mi programa actual definitivamente necesita un poco más de velocidad. Yo uso scikit learn con una búsqueda de grilla gruesa a fina + validación cruzada. Cada ejecución de SVM toma alrededor de un minuto, …

16 machine-learning  svm  predictive-models  scikit-learn  kernel-trick 

Estoy tratando de entender la intuición detrás de los SVM del kernel. Ahora, entiendo cómo funciona el SVM lineal, mediante el cual se toma una línea de decisión que divide los datos lo mejor que puede. También entiendo el principio detrás de la transferencia de datos a un espacio de …

15 machine-learning  svm  kernel-trick 

A menudo se dice que la regresión del proceso gaussiano corresponde (GPR) a la regresión lineal bayesiana con una (posiblemente) cantidad infinita de funciones básicas. Actualmente estoy tratando de entender esto en detalle para tener una intuición de qué tipo de modelos puedo expresar usando GPR. ¿Crees que este es …

14 gaussian-process  kernel-trick  basis-function 

Cómo demostrar que para la función de base radial no existe un espacio de características de dimensión finita tal que para algunos tenemos ?k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp⁡(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2})HHHΦ:Rn→HΦ:Rn→H\Phi: \text{R}^n \to Hk(x,y)=⟨Φ(x),Φ(y)⟩k(x,y)=⟨Φ(x),Φ(y)⟩k(x, y) = \langle \Phi(x), \Phi(y)\rangle

14 machine-learning  svm  kernel-trick 

Recientemente aprendí sobre el uso del truco Kernel, que mapea datos en espacios dimensionales superiores en un intento de linealizar los datos en esas dimensiones. ¿Hay algún caso en el que deba evitar usar esta técnica? ¿Es solo una cuestión de encontrar la función correcta del núcleo? Por supuesto, para …

13 machine-learning  svm  kernel-trick  heuristic 

Parece que hay muchos algoritmos de aprendizaje automático que dependen de las funciones del núcleo. SVMs y NNs para nombrar solo dos. Entonces, ¿cuál es la definición de una función del núcleo y cuáles son los requisitos para que sea válida?

13 svm  terminology  kernel-trick 

¿Cómo puedo demostrar que el producto puntual de dos funciones del núcleo es una función del núcleo?

13 machine-learning  kernel-trick