Preguntas etiquetadas con regression

Hay varias publicaciones sobre cómo seleccionar funciones. Uno de los métodos describe la importancia de la característica basada en estadísticas t. En R varImp(model)aplicado en modelo lineal con características estandarizadas, se utiliza el valor absoluto del estadístico t para cada parámetro del modelo. Entonces, básicamente elegimos una característica basada en …

12 regression  p-value  feature-selection 

He estado estudiando la regresión lineal y la probé en el siguiente conjunto {(x, y)}, donde x especificó el área de la casa en pies cuadrados e y especificó el precio en dólares. Este es el primer ejemplo en Andrew Ng Notes . 2104,400 1600,330 2400,369 1416,232 3000,540 Desarrollé un …

12 regression  least-squares  gradient-descent  supervised-learning 

¿Cuál es la diferencia entre mínimos cuadrados y regresión lineal? ¿Es la misma cosa?

12 regression  least-squares  terminology 

Este es el problema de desviación menos absoluto en cuestión:. Sé que se puede reorganizar como problema de LP de la siguiente manera:argminwL(w)=∑ni=1|yi−wTx|arg⁡minwL(w)=∑i=1n|yi−wTx| \underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}| min∑ni=1uimin∑i=1nui\min \sum_{i=1}^{n}u_{i} ui≥xTw−yii=1,…,nui≥xTw−yii=1,…,nu_i \geq \textbf{x}^T\textbf{w}- y_{i} \; i = 1,\ldots,n ui≥−(xTw−yi)i=1,…,nui≥−(xTw−yi)i=1,…,nu_i \geq -\left(\textbf{x}^T\textbf{w}-y_{i}\right) \; i = 1,\ldots,n Pero no tengo idea de resolverlo paso a …

12 regression  optimization  quantile-regression  linear-programming  least-absolute-deviations 

Antecedentes: Estoy tratando de seguir la revisión de Princeton de la estimación de MLE para GLM . Entiendo los conceptos básicos de la estimación MLE: likelihood, score, observada y esperada Fisher informationy la Fisher scoringtécnica. Y sé cómo justificar la regresión lineal simple con la estimación MLE . La pregunta: …

12 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Los análisis de regresión moderada a menudo se usan en ciencias sociales para evaluar la interacción entre dos o más predictores / covariables. Normalmente, con dos variables predictoras, se aplica el siguiente modelo: Y=β0+β1∗X+β2∗M+β3∗XM+eY=β0+β1∗X+β2∗M+β3∗XM+eY = β_0 + β_1*X + β_2*M + β_3*XM + e Observe que la prueba de moderación …

12 regression  interaction 

Zou y col. "Sobre los" grados de libertad "del lazo" (2007) muestran que el número de coeficientes distintos de cero es una estimación imparcial y consistente de los grados de libertad del lazo. Me parece un poco contradictorio. Supongamos que tenemos un modelo de regresión (donde las variables son media …

12 regression  lasso  degrees-of-freedom  shrinkage 

¿Cuál es un ejemplo de colinealidad perfecta en términos de la matriz de diseño XXX ? Quisiera un ejemplo donde β = ( X ' X ) - 1 X ' Y no puede estimarse porque ( X ' X ) no es invertible.β^=(X′X)−1X′Yβ^=(X′X)−1X′Y\hat \beta = (X'X)^{-1}X'Y(X′X)(X′X)(X'X)

12 regression  multicollinearity  matrix  matrix-inverse 

A menos que me equivoque, en un modelo lineal, se supone que la distribución de la respuesta tiene un componente sistemático y un componente aleatorio. El término de error captura el componente aleatorio. Por lo tanto, si suponemos que el término de error se distribuye normalmente, ¿no implica eso que …

12 regression  assumptions 

Me he encontrado con tres propuestas para tratar la sobredispersión en una variable de respuesta de Poisson y un modelo de inicio de efectos fijos: Use un cuasi modelo; Use GLM binomial negativo; Use un modelo mixto con un efecto aleatorio a nivel de sujeto. ¿Pero cuál elegir realmente y …

12 regression  negative-binomial  poisson-regression  overdispersion  quasi-likelihood 

Hice mediciones de dos variables e . Ambos tienen incertidumbres conocidas y asociadas con ellos. Quiero encontrar la relación entre e . ¿Cómo puedo hacerlo?x y σ x σ y x ynortennXxxyyyσXσx\sigma_xσyσy\sigma_yXxxyyy EDITAR : cada tiene una asociada a ella, y lo mismo con la .σ x , i y …

12 r  regression  deming-regression 

Actualmente me estoy enseñando cómo hacer la clasificación, y específicamente estoy mirando tres métodos: máquinas de vectores de soporte, redes neuronales y regresión logística. Lo que intento entender es por qué la regresión logística funcionaría mejor que las otras dos. Desde mi comprensión de la regresión logística, la idea es …

12 regression  machine-learning  logistic  classification  regression-strategies 

Pensé que entendía este problema, pero ahora no estoy tan seguro y me gustaría consultar con otros antes de continuar. Tengo dos variables Xy Y. Yes una relación, y no está limitada por 0 y 1 y generalmente se distribuye normalmente. Xes una proporción y está delimitada por 0 y …

12 r  regression  data-transformation  nonlinear-regression  proportion 

Antecedentes y problema Estoy usando procesos gaussianos (GP) para la regresión y la posterior optimización bayesiana (BO). Para la regresión, uso el paquete gpml para MATLAB con varias modificaciones personalizadas, pero el problema es general. Es un hecho bien conocido que cuando dos entradas de entrenamiento están demasiado cerca en …

12 regression  covariance-matrix  gaussian-process  bayesian-optimization 

Tengo curiosidad acerca de la declaración hecha en la parte inferior de la primera página de este texto con respecto al ajusteR2adjustedRadjusted2R^2_\mathrm{adjusted} R2adjusted=1−(1−R2)(n−1n−m−1).Radjusted2=1−(1−R2)(n−1n−m−1).R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right). El texto dice: La lógica del ajuste es la siguiente: en la regresión múltiple ordinaria, un predictor aleatorio explica en promedio una proporción 1/(n–1)1/(n–1)1/(n – 1) …

12 regression  expected-value  goodness-of-fit  r-squared