Valor que aumenta la desviación estándar

12

Me sorprende la siguiente declaración:

"Para aumentar la desviación estándar de un conjunto de números, debe agregar un valor que esté a más de una desviación estándar de la media"

¿Cuál es la prueba de eso? Por supuesto, sé cómo definimos la desviación estándar, pero esa parte parece que de alguna manera me la pierdo. ¿Algún comentario?

standard-deviation

— JohnK
fuente

1

¿Has tratado de resolver el álgebra involucrado?

— Alecos Papadopoulos

Sí tengo. He restado la varianza de la muestra de n valores de la varianza de n + 1 valores y he requerido que la diferencia sea mayor que cero. Sin embargo, no puedo entenderlo.

— JohnK

3

Una de las formas más simples es diferenciar el algoritmo de Welford con respecto al nuevo valor y luego integrarlo para mostrar que si la introducción de aumenta la varianza, entonces donde es la media de los primeros valores y es su estimación de varianza.

x_{n}

$x_n$

x_{n}

$x_n$

(x_{n} - {\bar{x}}_{n - 1})^{2} \geq \frac{n}{n - 1} v_{n - 1}

$(x_n-\bar{x}_{n-1})^2 \ge \frac{n}{n-1}v_{n-1}$

{\bar{x}}_{n - 1}

$\bar{x}_{n-1}$

n - 1

$n-1$

v_{n - 1}

$v_{n-1}$

— whuber

Está bien, pero ¿se puede mostrar esto con álgebra simple quizás? Mi conocimiento de las estadísticas no es tan avanzado.

— JohnK

@JohnK, ¿podría compartir la fuente de la cotización?

— Pe Dro

20

Para cualquier número con media , la varianza viene dada por Aplicar para el conjunto dado de números que tomamos por conveniencia en la exposición para tener media , tenemos que $N$ $y_1,y_2, \ldots, y_N$ $\displaystyle \bar{y} = \frac{1}{N}\sum_{i=1}^N y_i$

\begin{aligned} σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i} - \bar{y})^{2} \\ = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - 2 y_{i} \bar{y} + {\bar{y}}^{2}) \\ = \frac{1}{N - 1} [(\sum_{i = 1}^{N} y_{i}^{2}) - 2 N (\bar{y})^{2} + N (\bar{y})^{2}] \\ (1) & σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - (\bar{y})^{2}) \end{aligned}

$\begin{align} \sigma^2 &= \frac{1}{N-1}\sum_{i=1}^N (y_i-\bar{y})^2\\ &= \frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - 2y_i\bar{y} + \bar{y}^2\right)\\ &= \frac{1}{N-1}\left[\left(\sum_{i=1}^Ny_i^2\right) - 2N(\bar{y})^2 + N(\bar{y})^2 \right] \\ \sigma^2 &=\frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - (\bar{y})^2\right) \tag{1} \end{align}$

(1)

$(1)$

n

$n$

x_{1}, x_{2}, \dots x_{n}

$x_1, x_2, \ldots x_n$

\bar{x} = 0

$\bar{x} = 0$

σ^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i}^{2} - (\bar{x})^{2}) = \frac{1}{n - 1} \sum_{i = 1}^{n} x_{i}^{2}

$\sigma^2 = \frac{1}{n-1}\sum_{i=1}^n \left(x_i^2-(\bar{x})^2\right) = \frac{1}{n-1}\sum_{i=1}^n x_i^2$ Si ahora agregamos una nueva observación a este conjunto de datos, entonces la nueva media del conjunto de datos es mientras que la nueva varianza es Entoncesnecesita ser más grande que

x_{n + 1}

$x_{n+1}$

\frac{1}{n + 1} \sum_{i = 1}^{n + 1} x_{i} = \frac{n \bar{x} + x_{n + 1}}{n + 1} = \frac{x_{n + 1}}{n + 1}

$\frac{1}{n+1}\sum_{i=1}^{n+1}x_i = \frac{n\bar{x} + x_{n+1}}{n+1} = \frac{x_{n+1}}{n+1}$

\begin{aligned} {\hat{σ}}^{2} & = \frac{1}{n} \sum_{i = 1}^{n + 1} (x_{i}^{2} - \frac{x_{n + 1}^{2}}{(n + 1)^{2}}) \\ = \frac{1}{n} [((n - 1) σ^{2} + x_{n + 1}^{2}) - \frac{x_{n + 1}^{2}}{n + 1}] \\ = \frac{1}{n} [(n - 1) σ^{2} + \frac{n}{n + 1} x_{n + 1}^{2}] \\ > σ^{2} only if x_{n + 1}^{2} > \frac{n + 1}{n} σ^{2} . \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \frac{1}{n}\sum_{i=1}^{n+1} \left(x_i^2-\frac{x_{n+1}^2}{(n+1)^2}\right)\\ &= \frac{1}{n}\left[\left((n-1)\sigma^2 + x_{n+1}^2\right) - \frac{x_{n+1}^2}{n+1}\right]\\ &= \left.\left.\frac{1}{n}\right[(n-1)\sigma^2 + \frac{n}{n+1}x_{n+1}^2\right]\\ &> \sigma^2 ~ \text{only if}~ x_{n+1}^2 > \frac{n+1}{n}\sigma^2. \end{align}$

| x_{n + 1} |

$|x_{n+1}|$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$ o, más generalmente, necesita diferir de la media del conjunto de datos original en más de , para que el conjunto de datos aumentados tenga una varianza mayor que el conjunto de datos original. Véase también la respuesta de Ray Koopman, que señala que la nueva varianza es mayor, igual o menor que la varianza original según difiere de la media en más que, exactamente o menos que .

x_{n + 1}

$x_{n+1}$

\bar{x}

$\bar{x}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

x_{n + 1}

$x_{n+1}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

— Dilip Sarwate
fuente

55

+1 Finalmente alguien lo hace bien ... ;-) La afirmación a probar es correcta; Simplemente no es apretado. Por cierto, también puede elegir sus unidades de medida para hacer , lo que simplifica aún más el cálculo, reduciéndolo a aproximadamente dos líneas.

σ^{2} = 1

$\sigma^2=1$

— whuber

Le sugiero que use S en lugar de sigma en el primer conjunto de ecuaciones y gracias por la derivación. Fue bueno saber :)

— Theoden

3

La declaración desconcertante proporciona una condición necesaria pero insuficiente para que aumente la desviación estándar. Si el tamaño de la muestra anterior es , la media anterior es , la desviación estándar anterior es , y se agrega un nuevo punto a los datos, entonces la nueva desviación estándar será menor, igual o mayor que según comoes menor que, igual o mayor que . $n$ $m$ $s$ $x$ $s$ $|x-m|$ $s\sqrt{1+1/n}$

— Ray Koopman
fuente

1

¿Tienes una prueba a mano?

— JohnK

2

Dejando de lado el álgebra (que también funciona) piense de esta manera: la desviación estándar es la raíz cuadrada de la varianza. La varianza es el promedio de las distancias al cuadrado de la media. Si agregamos un valor más cercano a la media que esto, la varianza se reducirá. Si agregamos un valor que está más lejos de la media que esto, crecerá.

Esto es cierto para cualquier promedio de valores que no sean negativos. Si agrega un valor que es más alto que la media, la media aumenta. Si agrega un valor que es menor, disminuye.

— Peter Flom - Restablece a Monica
fuente

Me encantaría ver una prueba rigurosa también. Si bien entiendo el principio, estoy desconcertado por el hecho de que el valor debe estar al menos a una desviación de la media. ¿Por qué precisamente 1?

— JohnK

No veo lo que es confuso. La varianza es el promedio. Si agrega algo mayor que el promedio (es decir, más de 1 sd), aumenta. Pero no soy uno para pruebas formales

— Peter Flom - Restablece a Monica

Podría ser mayor que el promedio en 0.2 desviaciones estándar. ¿Por qué no aumentaría entonces?

— JohnK

No, no mayor que la media de los datos, mayor que la varianza, que es la media de las distancias al cuadrado.

— Peter Flom - Restablece a Monica

44

Es confuso porque incluir un nuevo valor cambia la media, por lo que cambian todos los residuos. Es concebible que incluso cuando el nuevo valor esté lejos de la media anterior, su contribución a la DE podría compensarse reduciendo la suma de cuadrados de los residuos de los otros valores. Esta es una de las muchas razones por las cuales las pruebas rigurosas son útiles: proporcionan no solo seguridad en el conocimiento, sino también información (e incluso información nueva). Por ejemplo, la prueba mostrará que debe agregar un nuevo valor que esté estrictamente más allá de una SD de la media para aumentar la SD.

— whuber

2

Z = \frac{x - μ}{σ} .

$Z = \frac{x-\mu}{\sigma} .$

x

$x$

Z

$Z$

x

$x$

σ = \sqrt{\frac{\sum_{i = 1}^{N} Z_{i}^{2}}{N - 1}}

$\sigma = \sqrt{\frac{\sum_{i=1}^{N}Z_i^2}{N-1}}$

σ

$\sigma$

Z_{N}

$Z_N$

— wcampbell
fuente

Un número cuyo valor absoluto es menor que 1, cuando se eleva al cuadrado también será menor que 1 en abs. valor. Sin embargo, lo que no entiendo es que incluso si Z_N cae en esa categoría, estamos agregando un valor positivo a σ, ¿no debería aumentar?

— JohnK

Z_{N + 1}

$Z_{N+1}$

1

N

$N$

σ

$\sigma$

\sum Z_{i}^{2}

$\sum Z_i^2$

¡Exactamente lo que estaba tratando de expresar!

— wcampbell

Z_{i}

$Z_i$

N - 1

$N-1$