¿Qué significa "diseño" en matriz de diseño?

13

En regresión lineal, , ¿por qué llama matriz de diseño? ¿Se puede diseñar o construir arbitrariamente hasta cierto punto como en el arte? $Y= X\beta$ $X$ $X$

regression terminology

— Tim
fuente

3

El origen del término es bastante antiguo, y creo que se remonta a los orígenes de la estadística inferencial en el análisis de experimentos; en particular, creo que se refería a la forma en que la matriz X se relacionaba con el diseño experimental real (la configuración específica de los valores

). Si puedo encontrar una referencia específica, publicaré una respuesta.

x

$x$

— Glen_b -Reinstale a Monica el

@Glen_b: ¡Gracias! ¿El "diseño" tiene algo que ver con la elección de una transformación en la variable de entrada, de modo que la variable de salida también sea lineal en la variable de entrada transformada? Por ejemplo, ¿la matriz de diseño en regresión polinómica?

— Tim

2

Cuando se diseña un experimento que especifique los valores de

.

X

$X$

— Whuber

15

$2^3$ $2^3=8$

[\begin{array}{rr} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 1 \end{array}]

$\left[\begin{array}{rr} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 1 \\ \end{array} \right]$

[\begin{array}{rr} A & B & C \end{array}] .

$\left[\begin{array}{rr} A & B & C \\ \end{array} \right].$

[\begin{array}{rr} 1 & 0 & 0 & 0 & 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 0 & 0 & 0 & 1 & 1 \\ 1 & 0 & 1 & 0 & 0 & 1 & 0 & 1 \\ 1 & 1 & 1 & 0 & 1 & 0 & 0 & 0 \\ 1 & 0 & 0 & 1 & 1 & 0 & 0 & 1 \\ 1 & 1 & 0 & 1 & 0 & 1 & 0 & 0 \\ 1 & 0 & 1 & 1 & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \end{array}]

$\left[\begin{array}{rr} 1 & 0 & 0 & 0 & 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 0 & 0 & 0 & 1 & 1 \\ 1 & 0 & 1 & 0 & 0 & 1 & 0 & 1 \\ 1 & 1 & 1 & 0 & 1 & 0 & 0 & 0 \\ 1 & 0 & 0 & 1 & 1 & 0 & 0 & 1 \\ 1 & 1 & 0 & 1 & 0 & 1 & 0 & 0 \\ 1 & 0 & 1 & 1 & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ \end{array} \right]$

[\begin{array}{rr} I & A & B & C & A B & A C & B C & A B C \end{array}] .

$\left[\begin{array}{rr} I & A & B & C & AB & AC & BC & ABC \\ \end{array} \right].$

Citas

Montgomery, D. (2009). Diseño y Análisis de Experimentos, 7ª Edición. John Wiley & Sons Inc.

— tjnel
fuente

9

$\mathbf{X}$ $\mathbf{X}$ $\mathbf{X}$ $\mathbf{y} = \mathbf{X}\boldsymbol{\beta}$

El diseño de experimentos se centra en cómo construir la matriz de diseño y la matriz del modelo, ya que ocurre antes de que se recopilen los datos. Si los datos ya están recopilados, el diseño se establece en piedra, pero aún puede cambiar la matriz del modelo. A veces, un experimento diseñado tendrá en la matriz de diseño ciertas columnas fijas llamadas covariables que no puede controlar pero que puede observar.

Hay algunas cosas que pueden suceder dependiendo de su elección de modelo y diseño ... ciertos parámetros pueden ser difíciles de estimar (variaciones más grandes del estimador) o es posible que no pueda estimar ciertos parámetros en absoluto. Diría que decidir sobre un modelo apropiado tiene algunos elementos de arte, y ciertamente hay un arte para diseñar experimentos.

— Nunca sabe mejor
fuente

2

Esto es muy útil, pero aquí hay una nota al pie sobre "covariable". Algunas personas usan ese término mucho más ampliamente para cualquier tipo de predictor o variable independiente. (Existen muchos otros sinónimos, naturalmente.)

— Nick Cox

(+1) Muy agradable por su primera contribución, ¡bienvenido a nuestro sitio!

— Whuber

2

$X$ $X$ $X$ $\beta$

2

$X$

¿Se puede diseñar o construir X arbitrariamente en algún grado como en el arte?

Básicamente, esta pregunta se reduce a "¿puede construir un modelo entrenado en datos fabricados" a la que la respuesta es obviamente sí. Por ejemplo, aquí hay una forma de construir una matriz de diseño arbitraria (vector de diseño, realmente) que dará un modelo con una pendiente e intercepción predefinidas:

design_mat=function(b, a){
  X = runif(100)
  Y = a*X + b
  data.frame(X,Y)
}

df = design_mat(-5, 12.3)

(lm(Y~X, data=df))

Call:
lm(formula = Y ~ X, data = df)

Coefficients:
(Intercept)            X  
       -5.0         12.3

$X = \frac{Y-b}{a}$

— David Marx
fuente