Preguntas etiquetadas con linear-algebra

Para la norma vectorial, la norma L2 o "distancia euclidiana" es la definición ampliamente utilizada e intuitiva. Pero, ¿por qué la definición de norma "más utilizada" o "predeterminada" para una matriz es la norma espectral , pero no la norma Frobenius (que es similar a la norma L2 para los …

17 matrix  linear-algebra 

Supongamos que tengo una matriz densa de tamaño m × n , con descomposición SVD A = U S V ⊤ . En puedo calcular la SVD de la siguiente manera: .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Si se agrega una nueva fila a A , ¿se puede calcular la nueva descomposición …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

Como se indicó en esta pregunta, el rango máximo de la matriz de covarianza es n−1n−1n-1 donde nnn es el tamaño de la muestra y, por lo tanto, si la dimensión de la matriz de covarianza es igual al tamaño de la muestra, sería singular. No puedo entender por qué …

17 covariance-matrix  linear-algebra 

Considere el siguiente biplot de PCA: library(mvtnorm) set.seed(1) x <- rmvnorm(2000, rep(0, 6), diag(c(5, rep(1,5)))) x <- scale(x, center=T, scale=F) pc <- princomp(x) biplot(pc) Hay un montón de flechas rojas trazadas, ¿qué significan? Sabía que la primera flecha etiquetada con "Var1" debería apuntar a la dirección más variable del conjunto …

14 r  pca  linear-algebra  biplot 

Digamos que tenemos X de forma (2, 5) e y de forma (2,) Esto funciona: np.linalg.lstsq(X, y) Es de esperar que esto funcione solo si X tenía forma (N, 5) donde N> = 5 Pero, ¿por qué y cómo? Volvemos 5 pesos como se esperaba, pero ¿cómo se resuelve este …

14 least-squares  linear-algebra  numpy 

He estado usando el ajuste del modelo caret, pero luego volví a ejecutar el modelo usando el gbmpaquete. Entiendo que el caretpaquete usa gbmy el resultado debe ser el mismo. Sin embargo, solo una ejecución de prueba rápida usando data(iris)muestra una discrepancia en el modelo de aproximadamente 5% usando RMSE …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Estoy haciendo ML en mi universidad, y el profesor mencionó el término Expectativa (E), mientras intentaba explicarnos algunas cosas sobre los procesos gaussianos. Pero por la forma en que lo explicó, entendí que E es lo mismo que la media μ. ¿Entendí bien? Si es lo mismo, ¿sabe por qué …

11 machine-learning  gaussian-process  linear-algebra 

Quiero implementar una regresión incremental del proceso gaussiano usando una ventana deslizante sobre los puntos de datos que llega uno por uno a través de una secuencia. Deje denotar la dimensionalidad del espacio de entrada. Entonces, cada punto de datos x i tiene d número de elementos.reddXyoxix_iredd Sea el tamaño …

11 regression  covariance  gaussian-process  linear-algebra  online 

Las implementaciones actuales del algoritmo de proyección aleatoria reducen la dimensionalidad de las muestras de datos al mapearlas de RreRd\mathbb R^d a RkRk\mathbb R^k usando una matriz de proyección re× kd×kd\times kRRR cuyas entradas son iid de una distribución adecuada (por ejemplo, de norte( 0 , 1 )N(0,1)\mathcal N(0,1) ): …

10 terminology  dimensionality-reduction  linear-algebra  random-projection 

Vi esta notación para los mínimos cuadrados ordinarios aquí . minw∥Xw−y∥22minw‖Xw−y‖22 \min_w \left\| Xw - y \right\|^2_2 Nunca he visto las barras dobles y los 2 en la parte inferior. ¿Que significan esos símbolos? ¿Tienen terminología específica para ellos?

10 regression  least-squares  linear-model  linear-algebra  notation 

Me gustaría entender cómo puedo obtener el porcentaje de varianza de un conjunto de datos, no en el espacio de coordenadas proporcionado por PCA, sino en un conjunto ligeramente diferente de vectores (rotados). set.seed(1234) xx <- rnorm(1000) yy <- xx * 0.5 + rnorm(1000, sd = 0.6) vecs <- cbind(xx, …

10 r  variance  pca  linear-algebra 

En el libro de texto que estoy leyendo, usan definición positiva (definición semi-positiva) para comparar dos matrices de covarianza. La idea es que si A−BA−BA-B es pd entonces BBB es menor que AAA . ¿Pero me cuesta entender la intuición de esta relación? Hay un hilo similar aquí: /math/239166/what-is-the-intuition-for-using-definiteness-to-compare-matrices ¿Cuál …

10 covariance-matrix  matrix  intuition  linear-algebra  geometry 

Este es solo un ejemplo que he encontrado varias veces, por lo que no tengo ningún dato de muestra. Ejecutar un modelo de regresión lineal en R: a.lm = lm(Y ~ x1 + x2) x1Es una variable continua. x2es categórico y tiene tres valores, por ejemplo, "Bajo", "Medio" y "Alto". …

10 r  regression  categorical-data  regression-coefficients  categorical-encoding  machine-learning  random-forest  anova  spss  r  self-study  bootstrap  monte-carlo  r  multiple-regression  partitioning  neural-networks  normalization  machine-learning  svm  kernel-trick  self-study  survival  cox-model  repeated-measures  survey  likert  correlation  variance  sampling  meta-analysis  anova  independence  sample  assumptions  bayesian  covariance  r  regression  time-series  mathematical-statistics  graphical-model  machine-learning  linear-model  kernel-trick  linear-algebra  self-study  moments  function  correlation  spss  probability  confidence-interval  sampling  mean  population  r  generalized-linear-model  prediction  offset  data-visualization  clustering  sas  cart  binning  sas  logistic  causality  regression  self-study  standard-error  r  distributions  r  regression  time-series  multiple-regression  python  chi-squared  independence  sample  clustering  data-mining  rapidminer  probability  stochastic-processes  clustering  binary-data  dimensionality-reduction  svd  correspondence-analysis  data-visualization  excel  c#  hypothesis-testing  econometrics  survey  rating  composite  regression  least-squares  mcmc  markov-process  kullback-leibler  convergence  predictive-models  r  regression  anova  confidence-interval  survival  cox-model  hazard  normal-distribution  autoregressive  mixed-model  r  mixed-model  sas  hypothesis-testing  mediation  interaction 

¿Existe una relación matemática entre: la similitud del coseno de dos vectores y , ysim(A,B)sim⁡(A,B)\operatorname{sim}(A, B)AAABBB ¿La similitud del coseno de y , escalada de manera no uniforme a través de una matriz dada ? Aquí es una matriz diagonal dada con elementos desiguales en la diagonal.sim(MA,MB)sim⁡(MA,MB)\operatorname{sim}(MA, MB)AAABBBMMMMMM Intenté repasar …

9 linear-algebra  cosine-similarity 

Este es realmente uno de los problemas en la 4a edición de Econometría Básica de Gujarati (Q3.11) y dice que el coeficiente de correlación es invariante con respecto al cambio de origen y escala, es decir, donde a , b , c , d son constantes arbitrarias.corr ( una X+ …

9 self-study  correlation  linear-algebra  mathematical-statistics