Preguntas etiquetadas con kernel-trick

Estoy estudiando la diferencia entre la regularización en la regresión RKHS y la regresión lineal, pero me resulta difícil comprender la diferencia crucial entre los dos. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} donde, con algún abuso de notación, la entrada i,ji,ji,j de la matriz del núcleo …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Soy un principiante cuando se trata de soportar máquinas de vectores. ¿Existen algunas pautas que digan qué núcleo (por ejemplo, lineal, polinomial) es el más adecuado para un problema específico? En mi caso, tengo que clasificar las páginas web según si contienen información específica o no, es decir, tengo un …

9 classification  svm  model-selection  libsvm  kernel-trick 

Cuando se usa libsvm, el parámetro es un parámetro para la función del núcleo. Su valor predeterminado se configura como γ = 1γγ\gammaγ= 1Número de características.γ=1Número de características.\gamma = \frac{1}{\text{number of features.}} ¿Existe alguna guía teórica para configurar este parámetro además de los métodos existentes, por ejemplo, la búsqueda de …

9 machine-learning  svm  data-mining  libsvm  kernel-trick 

¿Es posible utilizar el análisis de componentes principales del núcleo (kPCA) para la indexación semántica latente (LSI) de la misma manera que se utiliza PCA? Realizo LSI en R usando la prcompfunción PCA y extraigo las características con las cargas más altas de los primeros componentes. Por eso obtengo las …

9 r  pca  feature-selection  kernel-trick 

Estoy un poco confundido sobre la fórmula para calcular la covarianza en el proceso gaussiano (la adición de la varianza siempre me confunde, ya que no siempre se denota explícitamente). El origen de la confusión es que las fórmulas que se dan en Reconocimiento de patrones y Aprendizaje automático de …

8 machine-learning  covariance  covariance-matrix  kernel-trick  gaussian-process 

Múltiples métodos de aprendizaje del núcleo tienen como objetivo construir un modelo de núcleo donde el núcleo es una combinación lineal de núcleos de base fija. Aprender el núcleo consiste en aprender los coeficientes de ponderación para cada núcleo base, en lugar de optimizar los parámetros del núcleo de un …

8 machine-learning  svm  kernel-trick 

Tengo dos grupos de 10 participantes que fueron evaluados tres veces durante un experimento. Para probar las diferencias entre los grupos y entre las tres evaluaciones, ejecuté un ANOVA de diseño mixto 2x3 con group(control, experimental), time(primero, segundo, tres) y group x time. Ambos timey groupresultaron significativos, además hubo una …

8 anova  mixed-model  spss  post-hoc  bonferroni  time-series  unevenly-spaced-time-series  classification  normal-distribution  discriminant-analysis  probability  normal-distribution  estimation  sampling  classification  svm  terminology  pivot-table  random-generation  self-study  estimation  sampling  estimation  categorical-data  maximum-likelihood  excel  least-squares  instrumental-variables  2sls  total-least-squares  correlation  self-study  variance  unbiased-estimator  bayesian  mixed-model  ancova  statistical-significance  references  p-value  fishers-exact  probability  monte-carlo  particle-filter  logistic  predictive-models  modeling  interaction  survey  hypothesis-testing  multiple-regression  regression  variance  data-transformation  residuals  minitab  r  time-series  forecasting  arima  garch  correlation  estimation  least-squares  bias  pca  predictive-models  genetics  sem  partial-least-squares  nonparametric  ordinal-data  wilcoxon-mann-whitney  bonferroni  wilcoxon-signed-rank  traminer  regression  econometrics  standard-error  robust  misspecification  r  probability  logistic  generalized-linear-model  r-squared  effect-size  gee  ordered-logit  bayesian  classification  svm  kernel-trick  nonlinear  bayesian  pca  dimensionality-reduction  eigenvalues  probability  distributions  mathematical-statistics  estimation  nonparametric  kernel-smoothing  expected-value  filter  mse  time-series  correlation  data-visualization  clustering  estimation  predictive-models  recommender-system  sparse  hypothesis-testing  data-transformation  parametric  probability  summations  correlation  pearson-r  spearman-rho  bayesian  replicability  dimensionality-reduction  discriminant-analysis  outliers  weka 

Estoy implementando un clasificador SVM no lineal con kernel RBF. Me dijeron que la única diferencia con respecto a un SVM normal era que simplemente tenía que reemplazar el producto de puntos con una función del núcleo: Sé cómo funciona un SVM lineal normal, es decir, después de resolver el …

8 classification  svm  kernel-trick  nonlinear