Preguntas etiquetadas con feature-selection

Después de una pregunta ya respondida ( Extrayendo la importancia del peso de la red de alimentación de una capa ) Estoy buscando inferencia sobre la relevancia de las entradas en las redes neuronales. Teniendo en cuenta una red profunda, donde reconstruir la importancia de la entrada yendo hacia atrás …

14 neural-networks  python  feature-selection  sensitivity-analysis 

Pregunta: ¿Cuáles son las ventajas / desventajas de usar uno antes que otro para la selección de variables? Supongamos que tengo la probabilidad: donde puedo poner cualquiera de las anteriores: w i ∼ π δ 0 + ( 1 - π ) N ( 0 , 100 )y∼N(Xw,σ2I)y∼N(Xw,σ2I)y\sim\mathcal{N}(Xw,\sigma^2I) o: w …

14 bayesian  feature-selection 

Particularmente en el contexto de las competencias de kaggle, he notado que el rendimiento del modelo tiene que ver con la selección de características / ingeniería. Si bien puedo entender completamente por qué sucede esto cuando se trata de los algoritmos ML más convencionales / de la vieja escuela, no …

14 neural-networks  deep-learning  feature-selection  feature-engineering 

Mi objetivo es clasificar las señales del sensor. El concepto de mi solución hasta ahora es: i) Características de ingeniería de la señal sin procesar ii) Seleccionar características relevantes con ReliefF y un enfoque de agrupamiento iii) Aplicar NN, Bosque aleatorio y SVM Sin embargo, estoy atrapado en un dilema. …

14 feature-selection  hyperparameter  optimization 

Estoy leyendo sobre la mejor selección de subconjuntos en el libro Elementos de aprendizaje estadístico. Si tengo 3 predictores x1,x2,x3x1,x2,x3x_1,x_2,x_3 , creo 23=823=82^3=8 subconjuntos: Subconjunto sin predictores subconjunto con predictor x1x1x_1 subconjunto con predictorx2x2x_2 subconjunto con predictor x3x3x_3 subconjunto con predictores x1,x2x1,x2x_1,x_2 subconjunto con predictores x1,x3x1,x3x_1,x_3 subconjunto con predictores x2,x3x2,x3x_2,x_3 …

13 regression  feature-selection  lasso  bias-variance-tradeoff 

Por lo que entiendo, la selección de variables basada en valores p (al menos en el contexto de regresión) es altamente defectuosa. Parece que la selección variable basada en AIC (o similar) también se considera defectuosa por algunos, por razones similares, aunque esto parece un poco confuso (por ejemplo, vea …

13 hypothesis-testing  multiple-regression  feature-selection  model-selection  aic 

Sé que tanto la selección de características como la reducción de dimensionalidad apuntan a reducir el número de características en el conjunto original de características. ¿Cuál es la diferencia exacta entre los dos si estamos haciendo lo mismo en ambos?

13 machine-learning  pca  feature-selection  dimensionality-reduction 

Una de las motivaciones para la red elástica fue la siguiente limitación de LASSO: En el caso , el lazo selecciona como máximo n variables antes de saturarse, debido a la naturaleza del problema de optimización convexa. Esto parece ser una característica limitante para un método de selección variable. Además, …

13 regression  optimization  feature-selection  lasso 

Mi pregunta: ¿Por qué el bosque aleatorio considera subconjuntos aleatorios de características para dividir a nivel de nodo dentro de cada árbol en lugar de a nivel de árbol ? Antecedentes: esta es una cuestión de historia. Estaño Kam Ho publicó este trabajo en la construcción de "bosques de decisión", …

13 machine-learning  feature-selection  random-forest  importance  history 

La regresión gradual se había usado en exceso en muchos artículos biomédicos en el pasado, pero esto parece estar mejorando con una mejor educación de sus muchos problemas. Sin embargo, muchos críticos más antiguos todavía lo piden. ¿Cuáles son las circunstancias en las que la regresión gradual tiene un papel …

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

He leído que el lazo de grupo se usa para la selección de variables y la dispersión en un grupo de variables. Quiero saber la intuición detrás de esta afirmación. ¿Por qué se prefiere el lazo grupal al lazo? ¿Por qué la ruta de solución de lazo grupal no es …

13 regression  feature-selection  lasso  regularization 

Entiendo que el principio básico detrás del algoritmo para LLE consta de tres pasos. Encontrar la vecindad de cada punto de datos por alguna métrica como k-nn. Encuentre pesos para cada vecino que denotan el efecto que tiene el vecino en el punto de datos. Construya la incrustación de baja …

13 machine-learning  model-selection  feature-selection  dimensionality-reduction  nonlinear 

Estoy usando el paquete 'lars' en R con el siguiente código: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + …

13 correlation  feature-selection  lasso  regularization  ridge-regression 

Tengo una lista de proteínas con sus valores característicos. Una tabla de muestra se ve así: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Las filas son proteínas y las columnas son características. También tengo una lista de proteínas que también interactúan; por ejemplo Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 Problema : para …

13 machine-learning  statistical-significance  feature-selection  networks 

Tengo algunos puntos de datos, cada uno con 5 vectores de resultados discretos aglomerados, los resultados de cada vector generados por una distribución diferente, (el tipo específico del cual no estoy seguro, mi mejor suposición es Weibull, con un parámetro de forma que varía en algún lugar exponencial a la …

13 distributions  clustering  feature-selection  kolmogorov-smirnov  k-means