Preguntas etiquetadas con bias

Hastie y col. "Los elementos del aprendizaje estadístico" (2009) consideran un proceso de generación de datos con E ( ε ) = 0 y Var ( ε ) = σ 2 ε .Y= f( X) + εY=f(X)+ε Y = f(X) + \varepsilon E(ε)=0E(ε)=0\mathbb{E}(\varepsilon)=0Var(ε)=σ2εVar(ε)=σε2\text{Var}(\varepsilon)=\sigma^2_{\varepsilon} Presentan la siguiente descomposición de sesgo-varianza del …

9 variance  forecasting  prediction  terminology  bias 

Suponga la siguiente relación lineal: Yi=β0+β1Xi+uiYyo=β0 0+β1Xyo+tuyoY_i = \beta_0 + \beta_1 X_i + u_i , donde YiYyoY_i es la variable dependiente, XiXyoX_i una variable independiente y uituyou_i el término de error. Según Stock & Watson (Introducción a la Econometría; Capítulo 4 ), el tercer supuesto de mínimos cuadrados es que …

9 regression  least-squares  assumptions  bias  consistency 

Estoy haciendo una tarea sobre árboles de decisión, y una de las preguntas que tengo que responder es "¿Por qué los estimadores están construidos a partir de árboles sesgados, y cómo ayuda el embolsado a reducir su variación?". Ahora, sé que los modelos sobreajustados tienden a tener un sesgo realmente …

9 cart  bias 

En este artículo , ( Inferencia bayesiana para componentes de varianza usando solo contrastes de error , Harville, 1974), el autor afirma es un "bien conocido relación ", para una regresión lineal donde (y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). ¿Cómo se sabe esto? ¿Cuál es la forma más simple de probar esto?

9 regression  regression-coefficients  heteroscedasticity  bias  linear-algebra 

El libro Elementos del aprendizaje estadístico (disponible en PDF en línea) analiza el sesgo optimista (7.21, página 229). Establece que el sesgo de optimismo es la diferencia entre el error de entrenamiento y el error en la muestra (error observado si tomamos muestras de nuevos valores de resultado en cada …

9 error  bias  validation 

¿Hay algún método para corregir el sesgo en el modelo de riesgo proporcional de Cox causado por una muestra seleccionada al azar (algo así como la corrección de Heckman)? Antecedentes : Digamos que la situación es la siguiente: - Durante los primeros dos años, todos los clientes son aceptados. - …

9 bias  cox-model 

Estoy leyendo aprendizaje profundo por Ian Goodfellow et al. Introduce el sesgo como donde y son el parámetro estimado y el parámetro real subyacente, respectivamente.Bias(θ)=E(θ^)−θBias(θ)=E(θ^)−θBias(\theta)=E(\hat\theta)-\thetaθ^θ^\hat\thetaθθ\theta La consistencia, por otro lado, está definida por lo que significa que para cualquier , comolimm→∞θ^m=θlimm→∞θ^m=θ\mathrm{lim}_{m\to\infty}\hat\theta_m=\thetaϵ>0ϵ>0\epsilon > 0P(|θ^m−θ|>ϵ)→0P(|θ^m−θ|>ϵ)→0P(|\hat\theta_m-\theta|>\epsilon)\to0m→∞m→∞m\to\infty Luego dice que la consistencia implica imparcialidad …

9 estimation  bias  unbiased-estimator  consistency 

Estoy teniendo un poco de confusión. Estaba leyendo este documento donde explicaba que la técnica de embolsado reduce en gran medida la varianza y solo aumenta ligeramente el sesgo. No lo entendí, ¿cómo es que reduce la varianza? Sé lo que es la varianza y el sesgo. El sesgo es …

9 variance  bias  bagging 

¿Hay alguna diferencia entre los siguientes términos o son los mismos? Parcialidad Sesgo sistemático Errores sistemáticos Si existen algunas diferencias, explíquelas. ¿Se pueden reducir estos errores cuando se aumenta el tamaño de la muestra? ACTUALIZACIÓN: Mi campo de interés es la inferencia estadística. Quiero decir que cómo diferenciamos estos términos …

9 measurement-error  bias 

Supongamos que observamos datos Y, XY,XY, X y me gustaría ajustar un modelo de regresión para E [YEl |X]E[Y|X]\mathbf{E}[Y \,|\, X]. Desafortunadamente,YYY a veces se mide con errores cuya media es distinta de cero. Dejar Z∈ { imparcial , sesgado }Z∈{unbiased,biased}Z \in \left\{\text{unbiased}, \text{biased}\right\} clima indicado YYYse mide con errores …

8 regression  bias  measurement-error  weighted-regression 

¿Es cierto lo siguiente? sesgo bajo = varianza alta sesgo alto = varianza baja Entiendo el sesgo alto y bajo, pero ¿cómo es diferente la varianza? ¿O son los sinónimos anteriores?

8 machine-learning  neural-networks  variance  sampling  bias 

¿Conoces una referencia o nombre para la siguiente forma de investigar si una técnica de modelado compleja TTT es parcial? Aplicar TTTal conjunto de datos original. Mida su rendimiento (por ejemplo, R cuadrado en la configuración de regresión). Permuta aleatoriamente la variable de respuesta para obtener un nuevo conjunto de …

8 terminology  bias  validation  permutation-test 

En el modelo predictivo aplicado de Kuhn y Johnson, los autores escriben: Finalmente, estos árboles sufren de sesgo de selección: los predictores con un mayor número de valores distintos se ven favorecidos sobre los predictores más granulares (Loh y Shih, 1997; Carolin et al., 2007; Loh, 2010). Loh y Shih …

8 cart  bias 

El tratamiento habitual de los libros de texto de ajuste por variables superfluas en OLS establece que el estimador aún no es imparcial, pero puede tener una mayor varianza (ver, por ejemplo, Greene, Econometric Analysis, 7th ed., P. 58). El otro día me topé con el tratamiento de Judea Pearl …

8 least-squares  bias  causality  simpsons-paradox 

He leído que la validación cruzada de dejar uno fuera proporciona una estimación relativamente "imparcial del verdadero rendimiento de generalización" (por ejemplo, aquí ) y que esta es una propiedad ventajosa del CV de dejar uno fuera. Sin embargo, no veo cómo esto se deduce de las propiedades del CV …

8 cross-validation  model-selection  bias