Preguntas etiquetadas con lasso

Si tengo un diseño de matriz , donde n es el número de observaciones de dimensión d , lo que es la complejidad de la solución para β = argmin β 1X∈ Rn × dX∈Rnorte×reX\in\mathcal{R}^{n\times d}nortenortenreredcon LASSO, wrtny? Creo que la respuesta debería referirse a cómounaiteración de LASSO se escala …

10 optimization  lasso  regularization  time-complexity 

He estado en algunas charlas de estadísticas recientemente sobre el Lazo (regularización) y un punto que sigue surgiendo es que realmente no entendemos por qué funciona el Lazo o por qué funciona tan bien. Me pregunto a qué se refiere esta declaración. Obviamente, entiendo por qué el Lazo funciona técnicamente, …

10 machine-learning  lasso  regularization 

[Se hizo una pregunta similar aquí sin respuestas] He ajustado un modelo de regresión logística con regularización L1 (regresión logística Lasso) y me gustaría probar la significación de los coeficientes ajustados y obtener sus valores p. Sé que las pruebas de Wald (por ejemplo) son una opción para probar la …

10 logistic  statistical-significance  regression-coefficients  lasso 

Me pregunto cómo abordar adecuadamente el entrenamiento y la prueba de un modelo LASSO usando glmnet en R. Específicamente, me pregunto cómo hacerlo si la falta de un conjunto de datos de prueba externo requiere el uso de validación cruzada (u otro enfoque similar) para probar mi modelo LASSO. Déjame …

10 r  cross-validation  glmnet  lasso 

En mi clase de aprendizaje automático, aprendimos cómo la regresión LASSO es muy buena para realizar la selección de funciones, ya que utiliza la regularización .l1l1l_1 Mi pregunta: ¿las personas normalmente usan el modelo LASSO solo para hacer la selección de funciones (y luego proceden a volcar esas funciones en …

10 feature-selection  lasso  regression-strategies 

Mi situación: pequeño tamaño de muestra: 116 variable de resultado binaria larga lista de variables explicativas: 44 las variables explicativas no vinieron de la parte superior de mi cabeza; su elección se basó en la literatura. La mayoría de los casos en la muestra y la mayoría de las variables …

10 r  spss  lasso  data-imputation 

Obtuve tres modelos reducidos de un modelo completo original usando selección hacia adelante eliminación hacia atrás Técnica de penalización L1 (LASSO) Para los modelos obtenidos usando la selección hacia adelante / eliminación hacia atrás, obtuve la estimación validada cruzada del error de predicción usando el CVlmpaquete DAAGdisponible en R. Para …

10 cross-validation  model-selection  lasso  stepwise-regression 

Estaba leyendo este artículo relacionado con la red elástica. Dicen que usan una red elástica porque si solo usamos Lasso, tiende a seleccionar solo un predictor entre los predictores que están altamente correlacionados. Pero no es esto lo que queremos. Quiero decir que nos salva del problema de la multicolinealidad, …

10 regression  lasso  elastic-net 

Estoy buscando una respuesta intuitiva por la que un modelo GLM LASSO selecciona un predictor específico de un grupo de altamente correlacionados, y por qué lo hace de manera diferente a la mejor selección de características de subconjunto. A partir de la geometría del LASSO que se muestra en la …

10 feature-selection  lasso 

Estoy ajustando un modelo lineal en R usando glmnet. El modelo original (no regularizado) se ajustó utilizando lmy no tenía un término constante (es decir, tenía la forma lm(y~0+x1+x2,data)). glmnettoma una matriz de predictores y un vector de respuestas. He estado leyendo glmnetdocumentación y no encuentro mención del término constante. …

10 r  regression  lasso 

¿Cómo realizar una regresión de cresta no negativa? El lazo no negativo está disponible en scikit-learn, pero para cresta, no puedo imponer la no negatividad de las versiones beta, y de hecho, estoy obteniendo coeficientes negativos. ¿Alguien sabe a que se debe esto? Además, ¿puedo implementar la cresta en términos …

10 regression  lasso  regularization  ridge-regression 

Sé que esto enturbiaría la inferencia estadística, pero en realidad solo me preocupa acercarme lo más posible a un modelo preciso. Tengo una variable de resultado dicotómica, con un gran conjunto de predictores dicotómicos. Estoy pensando que me gustaría intentar usar LASSO para seleccionar qué variables debo incluir en mi …

10 model-selection  lasso  logit 

Tengo un conjunto de datos con aproximadamente 5,000 características / covariables a menudo correlacionadas y una respuesta binaria. Me dieron los datos, no los recolecté. Utilizo Lasso y el refuerzo de gradiente para construir modelos. Utilizo validación cruzada anidada iterada. Reporto los 40 coeficientes más grandes (absolutos) de Lasso y …

9 machine-learning  multiple-comparisons  regression-coefficients  lasso  high-dimensional 

Soy consciente de que es una práctica común estandarizar las características para la regresión de cresta y lazo; sin embargo, ¿sería más práctico normalizar las características en una escala (0,1) como alternativa a la estandarización de la puntuación z para estos métodos de regresión?

9 normalization  lasso  standardization  ridge-regression 

Estoy tratando de crear un modelo reducido para predecir muchas variables dependientes (DV) (~ 450) que están altamente correlacionadas. Mis variables independientes (IV) también son numerosas (~ 2000) y altamente correlacionadas. Si utilizo el lazo para seleccionar un modelo reducido para cada salida individualmente, no tengo la garantía de obtener …

9 r  lasso  multivariate-regression