Preguntas etiquetadas con feature-selection

Tengo una pregunta con respecto a la necesidad de utilizar métodos de selección de características (los bosques aleatorios tienen un valor de importancia de características o métodos de selección de características univariadas, etc.) antes de ejecutar un algoritmo de aprendizaje estadístico. Sabemos que para evitar el sobreajuste podemos introducir una …

20 regression  machine-learning  feature-selection  lasso  regularization 

Dos enfoques comunes para seleccionar variables correlacionadas son las pruebas de significación y la validación cruzada. ¿Qué problema intenta resolver cada uno y cuándo preferiría uno sobre el otro?

20 cross-validation  feature-selection 

Recientemente, descubrí que en la literatura de econometría aplicada, cuando se trata de problemas de selección de características, no es raro realizar LASSO seguido de una regresión de OLS utilizando las variables seleccionadas. Me preguntaba cómo podemos calificar la validez de tal procedimiento. ¿Causará problemas como variables omitidas? ¿Alguna prueba …

20 regression  feature-selection  econometrics  least-squares  lasso 

A continuación se muestra la gráfica de glmnet con alfa predeterminado (1, por lo tanto, lazo) utilizando mtcarsdatos establecidos en R con mpgDV y otros como variables predictoras. glmnet(as.matrix(mtcars[-1]), mtcars[,1]) ¿Qué podemos concluir de este gráfico con respecto a las diferentes variables, especialmente am, cyly wt(líneas roja, negra y azul …

19 regression  feature-selection  lasso  glmnet 

Tengo problemas para interpretar los valores z de las variables categóricas en la regresión logística. En el siguiente ejemplo, tengo una variable categórica con 3 clases y, de acuerdo con el valor z, CLASS2 podría ser relevante mientras que las demás no lo son. Pero ahora, ¿qué significa esto? ¿Que …

19 r  logistic  categorical-data  feature-selection  categorical-encoding 

¿Cuál es la definición de "espacio de características"? Por ejemplo, al leer sobre SVM, leí sobre "mapeo al espacio de características". Cuando leí sobre CART, leí sobre "particionamiento en espacio de características". Entiendo lo que está sucediendo, especialmente para CART, pero creo que hay alguna definición que me he perdido. …

19 machine-learning  svm  feature-selection  cart  feature-construction 

Los métodos de selección de variables algorítmicas escalonadas tienden a seleccionar modelos que sesgan más o menos todas las estimaciones en los modelos de regresión ( ββ\beta y sus SE, valores p , estadísticas F , etc.), y tienen la misma probabilidad de excluir predictores verdaderos como incluir predictores falsos …

18 regression  feature-selection  lasso  regression-strategies  stepwise-regression 

Estoy tratando de comparar la complejidad computacional / velocidad de estimación de tres grupos de métodos para la regresión lineal como se distingue en Hastie et al. "Elementos del aprendizaje estadístico" (2ª ed.), Capítulo 3: Selección de subconjunto Métodos de contracción Métodos que utilizan direcciones de entrada derivadas (PCR, PLS) …

18 machine-learning  estimation  feature-selection  algorithms  time-complexity 

Después de leer "Explicar o predecir " de Galit Shmueli (2010), me sorprende una aparente contradicción. Hay tres premisas, Elección del modelo basado en AIC versus BIC (final de p. 300 - comienzo de p. 301): simplemente, AIC debe usarse para seleccionar un modelo destinado a predicción, mientras que BIC …

18 forecasting  model-selection  feature-selection  aic  bic 

Recién cubrí la hipótesis no lineal de Andrew Neg de Netowrks neuronales, y teníamos una pregunta de opción múltiple para determinar el número de características para una imagen de resolución 100x100 de intensidades de grescale . Y la respuesta fue 50 millones, 555 x 10710710^7 Sin embargo, antes para una …

18 feature-selection  image-processing 

Estoy usando cv.glmnetpara encontrar predictores. La configuración que uso es la siguiente: lassoResults<-cv.glmnet(x=countDiffs,y=responseDiffs,alpha=1,nfolds=cvfold) bestlambda<-lassoResults$lambda.min results<-predict(lassoResults,s=bestlambda,type="coefficients") choicePred<-rownames(results)[which(results !=0)] Para asegurarse de que los resultados son reproducibles set.seed(1). Los resultados son muy variables. Ejecuté exactamente el mismo código 100 para ver qué tan variables fueron los resultados. En las ejecuciones 98/100 siempre …

18 r  cross-validation  feature-selection  glmnet 

Necesito clasificar las URL en categorías. Digamos que tengo 15 categorías en las que planeo poner cero a cada URL. ¿Es mejor un clasificador de 15 vías? Donde tengo 15 etiquetas y genero características para cada punto de datos. O construyendo 15 clasificadores binarios, diga: Película o No película, y …

18 machine-learning  classification  categorical-data  svm  feature-selection 

He creado un clasificador de regresión logística que es muy preciso en mis datos. Ahora quiero entender mejor por qué funciona tan bien. Específicamente, me gustaría clasificar qué características están haciendo la mayor contribución (qué características son las más importantes) e, idealmente, cuantificar cuánto contribuye cada característica a la precisión …

17 machine-learning  logistic  feature-selection  importance 

Estoy usando Lasso para la selección de características en una configuración dimensional relativamente baja (n >> p). Después de ajustar un modelo de lazo, quiero usar las covariables con coeficientes distintos de cero para ajustar un modelo sin penalización. Estoy haciendo esto porque quiero estimaciones imparciales que Lasso no puede …

17 regression  feature-selection  lasso  unbiased-estimator 

Una vez que he construido un modelo de bosque aleatorio (regresión) en R, la llamada rf$importanceme proporciona dos medidas para cada variable predictiva, %IncMSEy IncNodePurity. ¿La interpretación de que las variables predictoras con %IncMSEvalores más pequeños es más importante que las variables predictoras con %IncMSEvalores más grandes ? ¿Qué tal …

17 r  feature-selection  random-forest