Estadísticas y Big Data pca

1

¿Cómo se relacionan PCA, LDA, CCA y PLS? Todos parecen "espectrales" y algebraicos lineales y muy bien entendidos (digamos más de 50 años de teoría construida alrededor de ellos). Se usan para cosas muy diferentes (PCA para la reducción de la dimensionalidad, LDA para la clasificación, PLS para la regresión) …

26 pca discriminant-analysis partial-least-squares canonical-correlation

5

¿Cómo pueden los principales componentes principales retener el poder predictivo en una variable dependiente (o incluso conducir a mejores predicciones)?

Supongamos que yo estoy corriendo una regresión . ¿Por qué al seleccionar los principales componentes principales de , el modelo conserva su poder predictivo en ?Y∼XY∼XY \sim XkkkXXXYYY Entiendo que desde el punto de vista de reducción de dimensionalidad / selección de características, si son los vectores propios de la …

25 regression classification pca dimensionality-reduction regularization

3

Interpretación de la regularización de crestas en regresión

Tengo varias preguntas sobre la penalización de cresta en el contexto de mínimos cuadrados: βridge=(λID+X′X)−1X′yβridge=(λID+X′X)−1X′y\beta_{ridge} = (\lambda I_D + X'X)^{-1}X'y 1) La expresión sugiere que la matriz de covarianza de X se reduce hacia una matriz diagonal, lo que significa que (suponiendo que las variables estén estandarizadas antes del procedimiento) …

25 regression pca regularization ridge-regression

2

¿Tiene sentido combinar PCA y LDA?

Suponga que tengo un conjunto de datos para una tarea de clasificación estadística supervisada, por ejemplo, a través de un clasificador de Bayes. Este conjunto de datos consta de 20 características y quiero reducirlo a 2 características mediante técnicas de reducción de dimensionalidad como el Análisis de componentes principales (PCA) …

25 classification pca regularization discriminant-analysis overfitting

2

¿Cómo utilizar los resultados de R prcomp para la predicción?

Tengo un data.frame con 800 obs. de 40 variables, y me gustaría utilizar el Análisis de componentes principales para mejorar los resultados de mi predicción (que hasta ahora funciona mejor con Support Vector Machine en unas 15 variables seleccionadas a mano). Entiendo que un prcomp puede ayudarme a mejorar mis …

25 r pca

3

LSA vs. PCA (agrupación de documentos)

Estoy investigando varias técnicas utilizadas en la agrupación de documentos y me gustaría aclarar algunas dudas sobre PCA (análisis de componentes principales) y LSA (análisis semántico latente). Lo primero: ¿cuáles son las diferencias entre ellos? Sé que en PCA, la descomposición SVD se aplica a la matriz de covarianza de …

25 clustering pca data-mining svd lsa

2

¿La PCA es inestable bajo multicolinealidad?

Sé que en una situación de regresión, si tiene un conjunto de variables altamente correlacionadas, esto generalmente es "malo" debido a la inestabilidad en los coeficientes estimados (la varianza va hacia el infinito a medida que el determinante va hacia cero). Mi pregunta es si esta "maldad" persiste en una …

25 pca multicollinearity

5

Ejemplos de PCA donde las PC con baja varianza son "útiles"

Normalmente, en el análisis de componentes principales (PCA) se utilizan las primeras PC y se eliminan las PC de baja varianza, ya que no explican gran parte de la variación en los datos. Sin embargo, ¿hay ejemplos en los que las PC de baja variación son útiles (es decir, se …

24 pca

2

¿Cómo entender "no lineal" como en "reducción de dimensionalidad no lineal"?

Estoy tratando de entender las diferencias entre los métodos de reducción de dimensionalidad lineal (por ejemplo, PCA) y los no lineales (por ejemplo, Isomap). No puedo entender lo que implica la (no) linealidad en este contexto. Leí de Wikipedia que En comparación, si se utiliza PCA (un algoritmo de reducción …

24 pca terminology dimensionality-reduction pattern-recognition manifold-learning

3

¿Cómo es exactamente mejor la PCA dispersa que la PCA?

Aprendí sobre PCA hace unas conferencias en clase y al investigar más sobre este concepto fascinante, aprendí sobre PCA escasa. Quería preguntar, si no me equivoco, esto es lo que es PCA escaso: en PCA, si tiene puntos de datos con variables, puede representar cada punto de datos en espacio …

24 machine-learning pca sparse

1

Propiedades de PCA para observaciones dependientes

Usualmente usamos PCA como técnica de reducción de dimensionalidad para datos donde se supone que los casos son iid Pregunta: ¿Cuáles son los matices típicos en la aplicación de PCA para datos dependientes que no son iid? ¿Qué propiedades agradables / útiles de PCA que se mantienen para los datos …

23 time-series pca non-independent iid

2

¿Cuál es la diferencia entre PCA y PCA asintótica?

En dos artículos en 1986 y 1988 , Connor y Korajczyk propusieron un enfoque para modelar los rendimientos de los activos. Dado que estas series de tiempo generalmente tienen más activos que las observaciones de períodos de tiempo, propusieron realizar un PCA en covarianzas transversales de rendimientos de activos. A …

23 pca econometrics

4

Imputación de valores faltantes para PCA

Utilicé la prcomp()función para realizar un PCA (análisis de componentes principales) en R. Sin embargo, hay un error en esa función de modo que el na.actionparámetro no funciona. Pedí ayuda sobre stackoverflow ; dos usuarios ofrecieron dos formas diferentes de tratar con los NAvalores. Sin embargo, el problema con ambas …

23 r pca missing-data data-imputation

1

¿Por qué solo hay componentes principales para datos si el número de dimensiones es ?

En PCA, cuando el número de dimensiones es mayor (o incluso igual) al número de muestras , ¿por qué tendrá como máximo vectores propios distintos de cero? En otras palabras, el rango de la matriz de covarianza entre las dimensiones es .N N - 1 d ≥ N N - …

22 pca dimensionality-reduction eigenvalues

2

¿Por qué PCA de datos mediante SVD de los datos?

Esta pregunta trata sobre una manera eficiente de calcular los componentes principales. Muchos textos sobre PCA lineal abogan por el uso de la descomposición de valores singulares de los datos de casos . Es decir, si tenemos datos XX\bf X y queremos reemplazar las variables (sus columnas ) por componentes …

22 pca algorithms svd matrix-decomposition

Preguntas etiquetadas con pca