Determinación de la media verdadera a partir de observaciones ruidosas

Tengo un gran conjunto de puntos de datos de la forma (media, stdev). Deseo reducir esto a una sola (mejor) media y una (con suerte) menor desviación estándar.

Claramente podría simplemente calcular $\frac{\sum data_{mean}}{N}$ , sin embargo, esto no tiene en cuenta el hecho de que algunos de los puntos de datos son significativamente más precisos que otros.

En pocas palabras, deseo preformar un promedio ponderado de estos puntos de datos, pero no sé cuál debería ser la función de ponderación en términos de la desviación estándar.

normal-distribution repeated-measures weighted-mean

— Miguel
fuente

Busca un estimador lineal para la media $\mu$ de la forma

\hat{μ} = \sum_{i = 1}^{n} α_{i} x_{i}

$\hat{\mu} = \sum_{i=1}^{n} \alpha_i x_i$

donde el $\alpha_i$ son los pesos y son las observaciones. El objetivo es encontrar valores apropiados para los pesos. Deja que ser la verdadera desviación estándar de , que puede o no coincidir con el estimado de la desviación estándar es probable que tenga. Suponga que las observaciones son imparciales; es decir, todas sus expectativas son iguales a la media . En estos términos podemos calcular que la expectativa de es $x_i$ $\sigma_i$ $x_i$ $\mu$ $\hat{\mu}$

E [\hat{μ}] = \sum_{i = 1}^{n} α_{i} E [x_{i}] = μ \sum_{i = 1}^{n} α_{i}

$\mathbb{E}[\hat{\mu}] = \sum_{i=1}^{n} \alpha_i \mathbb{E}[x_i] = \mu \sum_{i=1}^{n} \alpha_i$

y (siempre que los no están correlacionados) la varianza de este estimador es $x_i$

Var [\hat{μ}] = \sum_{i = 1}^{n} α_{i}^{2} σ_{i}^{2} .

$\operatorname{Var}\left[\hat{\mu}\right] = \sum_{i=1}^{n} \alpha_i^2 \sigma_i^2.$

En este punto, muchas personas requieren que el estimador sea imparcial; es decir, queremos que su expectativa sea igual a la media real. Esto implica que los pesos deben sumarse a la unidad. Sujeto a esta restricción, la precisión del estimador (medida con un error cuadrático medio) se optimiza minimizando la varianza. La solución única (obtenida fácilmente con un multiplicador de Lagrange o reinterpretando la situación geométricamente como un problema de minimización de distancia) es que los pesos deben ser proporcionales a . $\alpha_i$ $1/\sigma_i^2$ La restricción de la suma a la unidad fija sus valores, produciendo

\hat{μ} = \frac{\sum_{i = 1}^{n} x_{i} / σ_{i}^{2}}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}}

$\hat{\mu} = \frac{\sum_{i=1}^{n} x_i / \sigma_i^2}{\sum_{i=1}^{n} 1 / \sigma_i^2}$

Var [\hat{μ}] = \frac{1}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}} = \frac{1}{n} {(\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{σ_{i}^{2}})}^{- 1} .

$\operatorname{Var}\left[\hat\mu\right] = \frac{1}{\sum_{i=1}^{n} 1 / \sigma_i^2} = \frac{1}{n} \left(\frac{1}{n} \sum_{i=1}^n \frac{1}{\sigma_i^2}\right)^{-1}.$

En palabras,

$1/n$

$\sigma_i$

— whuber
fuente

y relacionado con esta respuesta, también de whuber: stats.stackexchange.com/questions/9071/…

— Henry

¿Qué pasaría si no "asumimos que las observaciones son imparciales"? Con esa afirmación está diciendo que si se agregan infinitas mediciones individuales al azar a la observación

x_{i}

$x_i$