Preguntas etiquetadas con linear-model

Se refiere a cualquier modelo donde una variable aleatoria está relacionada con una o más variables aleatorias por una función que es lineal en un número finito de parámetros.

3
¿Cómo es posible obtener un buen modelo de regresión lineal cuando no existe una correlación sustancial entre la salida y los predictores?
He entrenado un modelo de regresión lineal, utilizando un conjunto de variables / características. Y el modelo tiene un buen rendimiento. Sin embargo, me he dado cuenta de que no hay una variable con una buena correlación con la variable predicha. ¿Como es posible?
1
Expectativa condicional de R-cuadrado
Considere el modelo lineal simple: yy=X′ββ+ϵyy=X′ββ+ϵ\pmb{y}=X'\pmb{\beta}+\epsilon donde ϵi∼i.i.d.N(0,σ2)ϵi∼i.i.d.N(0,σ2)\epsilon_i\sim\mathrm{i.i.d.}\;\mathcal{N}(0,\sigma^2) y X∈Rn×pX∈Rn×pX\in\mathbb{R}^{n\times p} ,p≥2p≥2p\geq2 yXXX contiene una columna de constantes. Mi pregunta es, dado E(X′X)E(X′X)\mathrm{E}(X'X) , ββ\beta y σσ\sigma , ¿hay una fórmula para un límite superior no trivial en E(R2)E(R2)\mathrm{E}(R^2) *? (suponiendo que el modelo fue estimado por OLS). * Supuse, …
4
Modelo lineal clásico - selección de modelo
Tengo un modelo lineal clásico, con 5 posibles regresores. No están correlacionados entre sí y tienen una correlación bastante baja con la respuesta. Llegué a un modelo donde 3 de los regresores tienen coeficientes significativos para su estadística t (p <0.05). Agregar una o las dos variables restantes da valores …
3
¿Cuándo podemos hablar de colinealidad?
En los modelos lineales necesitamos verificar si existe una relación entre las variables explicativas. Si se correlacionan demasiado, entonces hay colinealidad (es decir, las variables se explican parcialmente entre sí). Actualmente solo estoy mirando la correlación por pares entre cada una de las variables explicativas. Pregunta 1: ¿Qué clasifica como …
1
Comprender la descomposición QR
Tengo un ejemplo trabajado (en R), que estoy tratando de entender más. Estoy usando Limma para crear un modelo lineal y estoy tratando de entender lo que sucede paso a paso en los cálculos de cambio de pliegue. Principalmente estoy tratando de averiguar qué sucede para calcular los coeficientes. Por …
5
¿Puedo ignorar los coeficientes para niveles no significativos de factores en un modelo lineal?
Después de buscar una aclaración sobre los coeficientes del modelo lineal aquí , tengo una pregunta de seguimiento relativa a los no significativos (valor p alto) para los coeficientes de los niveles de factores. Ejemplo: si mi modelo lineal incluye un factor con 10 niveles, y solo 3 de esos …
2
Notación matricial para regresión logística
En la regresión lineal (pérdida al cuadrado), usando una matriz tenemos una notación muy concisa para el objetivo minimize ∥Ax−b∥2minimize ‖Ax−b‖2\text{minimize}~~ \|Ax-b\|^2 Donde es la matriz de datos, son los coeficientes y b es la respuesta.x bAAAxxxbbb ¿Existe una notación matricial similar para el objetivo de regresión logística? Todas las …
3
Para los clasificadores lineales, ¿los coeficientes más grandes implican características más importantes?
Soy un ingeniero de software que trabaja en aprendizaje automático. Según tengo entendido, la regresión lineal (como OLS) y la clasificación lineal (como la regresión logística y SVM) hacen una predicción basada en un producto interno entre los coeficientes entrenados y las variables de característica :w⃗ w→\vec{w}x⃗ x→\vec{x} y^=f(w⃗ ⋅x⃗ …
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.