Preguntas etiquetadas con kernel-trick

Muchos clasificadores de aprendizaje automático (por ejemplo, máquinas de vectores de soporte) permiten especificar un núcleo. ¿Cuál sería una forma intuitiva de explicar qué es un núcleo? Un aspecto en el que he estado pensando es la distinción entre núcleos lineales y no lineales. En términos simples, podría hablar de …

97 machine-learning  svm  references  kernel-trick  intuition 

Al usar SVM, debemos seleccionar un núcleo. Me pregunto cómo seleccionar un núcleo. ¿Algún criterio para la selección del núcleo?

96 machine-learning  svm  kernel-trick 

Estoy empezando a incursionar con el uso de glmnetla LASSO regresión donde mi resultado de interés es dicotómica. He creado un pequeño marco de datos simulados a continuación: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Hay varios usos distintos: estimación de la densidad del grano truco del grano suavizado de granos Por favor explique lo que significa el "núcleo" en ellos, en inglés simple, en sus propias palabras.

73 kernel-trick  kernel-smoothing 

Estaba leyendo sobre kernel PCA ( 1 , 2 , 3 ) con núcleos gaussianos y polinomiales. ¿Cómo separa el núcleo gaussiano aparentemente cualquier tipo de datos no lineales excepcionalmente bien? Realice un análisis intuitivo, así como uno matemáticamente involucrado si es posible. ¿Cuál es una propiedad del núcleo gaussiano …

67 machine-learning  pca  svm  kernel-trick 

Cuando se utiliza la máquina de vectores de soporte, ¿existen pautas para elegir un núcleo lineal frente a un núcleo no lineal, como RBF? Una vez escuché que el kernel no lineal tiende a no funcionar bien una vez que el número de características es grande. ¿Hay alguna referencia sobre …

45 machine-learning  classification  svm  references  kernel-trick 

¿Cuál es la intuición detrás del hecho de que una SVM con un núcleo gaussiano tiene un espacio de características dimensionales infinito?

36 svm  feature-selection  kernel-trick 

Cómo demostrar que la función de base radial k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp⁡(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2})es un núcleo? Por lo que yo entiendo, para probar esto tenemos que probar cualquiera de los siguientes: Para cualquier conjunto de vectores x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_n de la matriz K(x1,x2,...,xn)K(x1,x2,...,xn)K(x_1, x_2, ..., x_n) = (k(xi,xj))n×n(k(xi,xj))n×n(k(x_i, x_j))_{n \times n} …

35 svm  kernel-trick 

He visto que la gente ha puesto muchos esfuerzos en SVM y Kernels, y se ven bastante interesantes como iniciadores en Machine Learning. Pero si esperamos que casi siempre podamos encontrar una solución superior en términos de red neuronal (profunda), ¿cuál es el significado de probar otros métodos en esta …

33 machine-learning  svm  kernel-trick  supervised-learning 

Estoy usando SVM para la clasificación y estoy tratando de determinar los parámetros óptimos para los núcleos lineales y RBF. Para el núcleo lineal utilizo la selección de parámetros con validación cruzada para determinar C y para el núcleo RBF utilizo la búsqueda de cuadrícula para determinar C y gamma. …

32 classification  svm  kernel-trick 

Estoy un poco confundido con la diferencia entre un SVM y un perceptrón. Permítanme tratar de resumir mi comprensión aquí, y siéntanse libres de corregir dónde estoy equivocado y completar lo que me he perdido. El Perceptron no intenta optimizar la separación "distancia". Mientras encuentre un hiperplano que separe los …

29 machine-learning  svm  kernel-trick 

¿Puede alguien decirme la diferencia entre los núcleos en SVM: Lineal Polinomio Gaussiano (RBF) Sigmoideo Porque, como sabemos, ese kernel se utiliza para asignar nuestro espacio de entrada al espacio de características de alta dimensionalidad. Y en ese espacio de características, encontramos el límite linealmente separable. ¿Cuándo se usan (bajo …

27 machine-learning  svm  pattern-recognition  kernel-trick 

x,y∈RnϕK(x,y)=exp(−∥x−y∥222σ2)=ϕ(x)Tϕ(y)K(x,y)=exp⁡(−‖x−y‖222σ2)=ϕ(x)Tϕ(y)K(x,y)=\exp\left({-\frac{\|x-y\|_2^2}{2\sigma^2}}\right)=\phi(x)^T\phi(y)x,y∈Rnx,y∈Rnx, y\in \mathbb{R^n}ϕϕ\phi También quiero saber si ∑iciϕ(xi)=ϕ(∑icixi)∑iciϕ(xi)=ϕ(∑icixi)\sum_ic_i\phi(x_i)=\phi \left(\sum_ic_ix_i \right) donde ci∈Rci∈Rc_i\in \mathbb R . Ahora, creo que no es igual, porque el uso de un núcleo maneja la situación en la que el clasificador lineal no funciona. Sé que ϕϕ\phi proyecta x en un espacio infinito. Entonces, si sigue …

24 machine-learning  svm  kernel-trick 

¿Por qué las personas usan técnicas de programación cuadrática (como SMO) cuando se trata de SVM kernelized? ¿Qué hay de malo en el descenso de gradiente? ¿Es imposible de usar con los núcleos o es demasiado lento (y por qué?). Aquí hay un poco más de contexto: tratando de entender …

21 svm  kernel-trick  gradient-descent 

En el contexto del aprendizaje automático y el reconocimiento de patrones, hay un concepto llamado Kernel Trick . Enfrentando problemas en los que se me pide que determine si una función podría ser una función del núcleo o no, ¿qué se debe hacer exactamente? ¿Debería comprobar primero si tienen la …

21 machine-learning  kernel-trick