Estadísticas y Big Data model-selection

1

Grados residuales apropiados de libertad después de eliminar términos de un modelo

Reflexiono sobre la discusión en torno a esta pregunta y, en particular, sobre el comentario de Frank Harrell de que la estimación de la varianza en un modelo reducido (es decir, uno a partir del cual se probaron y rechazaron varias variables explicativas) debería usar los grados de libertad generalizados …

27 r regression model-selection regression-strategies

3

¿Puede AIC comparar diferentes tipos de modelos?

Estoy usando el AIC (Criterio de información de Akaike) para comparar modelos no lineales en R. ¿Es válido comparar los AIC de diferentes tipos de modelos? Específicamente, estoy comparando un modelo ajustado por glm versus un modelo con un término de efecto aleatorio ajustado por glmer (lme4). Si no, ¿hay …

27 lme4-nlme model-selection aic

4

¿Cómo medir / clasificar "importancia variable" cuando se utiliza CART? (específicamente usando {rpart} de R)

Cuando se construye un modelo CART (específicamente un árbol de clasificación) usando rpart (en R), a menudo es interesante saber cuál es la importancia de las diversas variables introducidas en el modelo. Por lo tanto, mi pregunta es: ¿Qué medidas comunes existen para clasificar / medir la importancia variable de …

27 r classification model-selection cart rpart

3

Requisitos previos para la comparación del modelo AIC

¿Cuáles son exactamente los requisitos previos que deben cumplirse para que funcione la comparación del modelo AIC? Acabo de responder esta pregunta cuando hice una comparación como esta: > uu0 = lm(log(usili) ~ rok) > uu1 = lm(usili ~ rok) > AIC(uu0) [1] 3192.14 > AIC(uu1) [1] 14277.29 De esta …

26 regression model-selection aic model-comparison nested-models

4

Abordar la incertidumbre del modelo

Me preguntaba cómo los bayesianos en la comunidad CrossValidated ven el problema de la incertidumbre del modelo y cómo prefieren tratarlo. Trataré de formular mi pregunta en dos partes: ¿Qué tan importante (en su experiencia / opinión) es lidiar con la incertidumbre del modelo? No he encontrado ningún documento que …

25 machine-learning bayesian model-selection

5

¿Cuál es la ventaja de tratar un factor como aleatorio en un modelo mixto?

Tengo un problema para aprovechar los beneficios de etiquetar un factor modelo como aleatorio por varias razones. Para mí, parece que en casi todos los casos la solución óptima es tratar todos los factores como fijos. Primero, la distinción entre fijo y aleatorio es bastante arbitraria. La explicación estándar es …

24 model-selection random-effects-model aic fixed-effects-model mixed-model

4

¿Tiene una visión global sobre esas técnicas de análisis?

Actualmente estoy en un proyecto donde básicamente necesito, como todos lo hacemos, comprender cómo se relaciona la salida con la entrada . La particularidad aquí es que los datos son proporcionados de una en una, por lo que quiero actualizar mi análisis cada vez que recibo un nuevo . Creo …

24 modeling model-selection

2

Estabilidad del tema en modelos temáticos

Estoy trabajando en un proyecto donde quiero extraer información sobre el contenido de una serie de ensayos abiertos. En este proyecto en particular, 148 personas escribieron ensayos sobre una organización estudiantil hipotética como parte de un experimento más amplio. Aunque en mi campo (psicología social), la forma típica de analizar …

23 machine-learning model-selection small-sample topic-models dirichlet-process

3

AIC versus validación cruzada en series de tiempo: el caso de muestra pequeña

Estoy interesado en la selección de modelos en una configuración de series de tiempo. Para concreción, supongamos que quiero seleccionar un modelo ARMA de un grupo de modelos ARMA con diferentes órdenes de retraso. La intención final es pronosticar . La selección del modelo puede hacerse por validación cruzada, uso …

23 time-series forecasting cross-validation model-selection aic

2

¿Por qué la prueba de 1938 de Wilks no funciona para modelos mal especificados?

En el famoso artículo de 1938 (" La distribución de la muestra grande de la razón de probabilidad para probar hipótesis compuestas ", Annals of Mathematical Statistics, 9: 60-62), Samuel Wilks derivó la distribución asintótica de 2×LLR2×LLR2 \times LLR (relación de probabilidad logarítmica ) para hipótesis anidadas, bajo el supuesto …

23 hypothesis-testing model-selection likelihood-ratio asymptotics misspecification

1

Elegir entre las reglas de puntuación adecuadas

La mayoría de los recursos sobre reglas de puntuación adecuadas mencionan una serie de reglas de puntuación diferentes como pérdida de registro, puntuación de Brier o puntuación esférica. Sin embargo, a menudo no dan mucha orientación sobre las diferencias entre ellos. (Anexo A: Wikipedia ). Elegir el modelo que maximiza …

22 machine-learning classification model-selection theory scoring-rules

3

La estabilidad del modelo cuando se trata de grandes

Introducción: Tengo un conjunto de datos con un clásico "problema grande p, pequeño n". El número de muestras disponibles n = 150, mientras que el número de posibles predictores p = 400. El resultado es una variable continua. Quiero encontrar los descriptores más "importantes", es decir, aquellos que son los …

22 regression cross-validation model-selection feature-selection elastic-net

2

¿El mejor enfoque para la selección del modelo bayesiano o validación cruzada?

Cuando trato de seleccionar entre varios modelos o la cantidad de características a incluir, digamos predicción, puedo pensar en dos enfoques. Divida los datos en conjuntos de entrenamiento y prueba. Mejor aún, use bootstrapping o k-fold cross-validation. Entrene en el conjunto de entrenamiento cada vez y calcule el error sobre …

22 bayesian model-selection cross-validation feature-selection

2

¿Cuál es la propiedad oráculo de un estimador?

¿Cuál es la propiedad oráculo de un estimador? ¿Para qué objetivos de modelado es relevante la propiedad del oráculo (predictivo, explicativo, ...)? Las explicaciones teóricamente rigurosas y (especialmente) intuitivas son bienvenidas.

22 feature-selection model-selection estimators oracle

3

AIC o valor p: ¿cuál elegir para la selección del modelo?

Soy nuevo en esta cosa R pero no estoy seguro de qué modelo seleccionar. Hice una regresión progresiva hacia adelante seleccionando cada variable en función del AIC más bajo. Se me ocurrieron 3 modelos que no estoy seguro de cuál es el "mejor". Model 1: Var1 (p=0.03) AIC=14.978 Model 2: …

22 model-selection aic stepwise-regression

Preguntas etiquetadas con model-selection