Estadísticas y Big Data dimensionality-reduction

5

¿Cómo pueden los principales componentes principales retener el poder predictivo en una variable dependiente (o incluso conducir a mejores predicciones)?

Supongamos que yo estoy corriendo una regresión . ¿Por qué al seleccionar los principales componentes principales de , el modelo conserva su poder predictivo en ?Y∼XY∼XY \sim XkkkXXXYYY Entiendo que desde el punto de vista de reducción de dimensionalidad / selección de características, si son los vectores propios de la …

25 regression classification pca dimensionality-reduction regularization

2

¿Cómo entender "no lineal" como en "reducción de dimensionalidad no lineal"?

Estoy tratando de entender las diferencias entre los métodos de reducción de dimensionalidad lineal (por ejemplo, PCA) y los no lineales (por ejemplo, Isomap). No puedo entender lo que implica la (no) linealidad en este contexto. Leí de Wikipedia que En comparación, si se utiliza PCA (un algoritmo de reducción …

24 pca terminology dimensionality-reduction pattern-recognition manifold-learning

3

¿Debería la reducción de dimensionalidad para la visualización considerarse un problema "cerrado", resuelto por t-SNE?

He estado leyendo mucho sobre el algoritmo -snettt para la reducción de dimensionalidad. Estoy muy impresionado con el rendimiento en los conjuntos de datos "clásicos", como MNIST, donde logra una separación clara de los dígitos ( ver artículo original ): También lo he usado para visualizar las características aprendidas por …

23 clustering data-visualization dimensionality-reduction high-dimensional tsne

2

¿De qué se trata la "regresión de rango reducido"?

He estado leyendo Los elementos del aprendizaje estadístico y no podía entender de qué se trata la Sección 3.7 "Reducción y selección de resultados múltiples". Habla de RRR (regresión de rango reducido), y solo puedo entender que la premisa se trata de un modelo lineal multivariado generalizado donde los coeficientes …

22 regression multivariate-analysis dimensionality-reduction regularization reduced-rank-regression

1

¿Por qué solo hay componentes principales para datos si el número de dimensiones es ?

En PCA, cuando el número de dimensiones es mayor (o incluso igual) al número de muestras , ¿por qué tendrá como máximo vectores propios distintos de cero? En otras palabras, el rango de la matriz de covarianza entre las dimensiones es .N N - 1 d ≥ N N - …

22 pca dimensionality-reduction eigenvalues

1

t-SNE versus MDS

He estado leyendo algunas preguntas sobre t-SNE ( t-Distributed Stochastic Neighbor Embedded ) últimamente, y también visité algunas preguntas sobre MDS ( Multidimensional Scaling ). A menudo se usan de manera análoga, por lo que parecía una buena idea hacer esta pregunta, ya que aquí hay muchas preguntas sobre ambas …

21 data-visualization dimensionality-reduction multidimensional-scaling tsne

3

PCA cuando la dimensionalidad es mayor que el número de muestras

Me he encontrado con un escenario en el que tengo 10 señales / persona para 10 personas (es decir, 100 muestras) que contienen 14000 puntos de datos (dimensiones) que necesito pasar a un clasificador. Me gustaría reducir la dimensionalidad de estos datos y PCA parece ser la forma de hacerlo. …

21 pca dimensionality-reduction svd

4

Análisis de componentes principales funcionales (FPCA): ¿de qué se trata?

El análisis funcional de componentes principales (FPCA) es algo con lo que me he tropezado y que nunca pude entender. ¿Que es todo esto? Consulte "Una encuesta de análisis funcional de componentes principales" por Shang, 2011 , y estoy citando: PCA se encuentra con serias dificultades para analizar datos funcionales …

21 time-series pca dimensionality-reduction

4

¿Por qué los datos mixtos son un problema para los algoritmos de clustering basados en euclides?

La mayoría de los algoritmos clásicos de agrupación y reducción de dimensionalidad (agrupación jerárquica, análisis de componentes principales, k-means, mapas autoorganizados ...) están diseñados específicamente para datos numéricos, y sus datos de entrada se ven como puntos en un espacio euclidiano. Por supuesto, este es un problema, ya que muchas …

21 clustering dimensionality-reduction distance self-organizing-maps mixed-type-data

1

Cómo LDA, una técnica de clasificación, también sirve como técnica de reducción de dimensionalidad como PCA

En este artículo , el autor vincula el análisis discriminante lineal (LDA) con el análisis de componentes principales (PCA). Con mi conocimiento limitado, no puedo seguir cómo LDA puede ser algo similar a PCA. Siempre he pensado que LDA era una forma de algoritmo de clasificación, similar a la regresión …

20 classification pca dimensionality-reduction discriminant-analysis canonical-correlation

5

¿Hay alguna versión de t-SNE para la transmisión de datos?

Comprendo t-SNE y la aproximación de Barnes-Hut es que se requieren todos los puntos de datos para que todas las interacciones de fuerza se puedan calcular al mismo tiempo y cada punto se pueda ajustar en el mapa 2d (o de dimensión inferior). ¿Hay alguna versión de t-sne que pueda …

19 data-visualization dimensionality-reduction multidimensional-scaling tsne

1

¿Deberían los datos estar centrados + escalados antes de aplicar t-SNE?

Algunas de las características de mis datos tienen valores grandes, mientras que otras tienen valores mucho más pequeños. ¿Es necesario centrar + escalar datos antes de aplicar t-SNE para evitar sesgos hacia los valores más grandes? Uso la implementación sklearn.manifold.TSNE de Python con la métrica de distancia euclidiana predeterminada.

18 normalization dimensionality-reduction high-dimensional tsne

4

¿Existe realmente la "maldición de la dimensionalidad" en los datos reales?

Entiendo lo que es la "maldición de la dimensionalidad", y he hecho algunos problemas de optimización de alta dimensión y conozco el desafío de las posibilidades exponenciales. Sin embargo, dudo que la "maldición de la dimensionalidad" exista en la mayoría de los datos del mundo real (bueno, dejemos de lado …

17 clustering dimensionality-reduction high-dimensional

4

Variables de "normalización" para SVD / PCA

Supongamos que tenemos variables medibles, , hacemos un número de mediciones y luego deseamos realizar una descomposición de valores singulares en los resultados para encontrar los ejes de mayor varianza para los puntos en el espacio -dimensional. ( Nota: suponga que las medias de ya se han restado, por lo …

17 pca data-transformation normalization dimensionality-reduction svd

2

¿Cuándo combinamos la reducción de dimensionalidad con la agrupación?

Estoy intentando realizar la agrupación a nivel de documento. Construí la matriz de frecuencia de término-documento y estoy tratando de agrupar estos vectores de alta dimensión usando k-means. En lugar de agrupar directamente, lo que hice fue aplicar primero la descomposición vectorial singular de LSA (Análisis semántico latente) para obtener …

16 clustering pca dimensionality-reduction text-mining svd

Preguntas etiquetadas con dimensionality-reduction