Variación de una variable aleatoria acotada

22

Suponga que una variable aleatoria tiene un límite inferior y superior [0,1]. ¿Cómo calcular la varianza de tal variable?

variance standard-deviation measurement-error

— Piotr
fuente

8

De la misma manera que para una variable ilimitada, estableciendo los límites de integración o suma de manera adecuada.

— Scortchi - Restablece a Monica

2

Como dijo @Scortchi. Pero tengo curiosidad por qué pensaste que podría ser diferente.

— Peter Flom - Restablece a Monica

3

A menos que no sepa nada acerca de la variable (en cuyo caso, se puede calcular un límite superior de la varianza a partir de la existencia de límites), ¿por qué el hecho de que está limitado entra en el cálculo?

— Glen_b -Reinstate Monica

66

Un útil límite superior de la varianza de una variable aleatoria que toma valores en

[a, b]

$[a,b]$ con probabilidad

1

$1$ es

(b - a)^{2} / 4

$(b-a)^2/4$ y se logra por una variable aleatoria discreta que toma valores

a

$a$ y

b

$b$ con igual probabilidad

\frac{1}{2}

$\frac{1}{2}$ . Otro punto a tener en cuenta es que se garantiza que la varianza existe, mientras que una variable aleatoria ilimitada podría no tener una varianza (algunas, como las variables aleatorias de Cauchy, ni siquiera tienen una media).

— Dilip Sarwate

77

No es una variable aleatoria discreta cuya varianza es igual a

\frac{(b - a)^{2}}{4}

$\frac{(b-a)^2}{4}$ exactamente:una variable aleatoria que toma valores

a

$a$ y

b

$b$ con igual probabilidad

\frac{1}{2}

$\frac{1}{2}$ . Entonces, al menos sabemos que un límite superior universal en la varianza no puede ser menor que

\frac{(b - a)^{2}}{4}

$\frac{(b-a)^2}{4}$ .

— Dilip Sarwate

46

Puede probar la desigualdad de Popoviciu de la siguiente manera. Utilice la notación $m=\inf X$ y $M=\sup X$ . Definir una función $g$ por

g (t) = E [{(X - t)}^{2}] .

$g(t)=\mathbb{E}\left[\left(X-t\right)^2\right] \, .$ Calcular la derivada

g^{'}

$g'$ y resolver

g^{'} (t) = - 2 E [X] + 2 t = 0,

$g'(t) = -2\mathbb{E}[X] +2t=0 \, ,$

g

$g$

t = E [X]

$t=\mathbb{E}[X]$

g^{″} > 0

$g''>0$

Ahora, considere el valor de la función en el punto especial . Debe ser el caso de que Pero Desde y , tenemos lo que implica que $g$ $t=\frac{M+m}{2}$

V a r [X] = g (E [X]) \leq g (\frac{M + m}{2}) .

$\mathbb{Var}[X]=g(\mathbb{E}[X])\leq g\left(\frac{M+m}{2}\right) \, .$

g (\frac{M + m}{2}) = E [{(X - \frac{M + m}{2})}^{2}] = \frac{1}{4} E [{((X - m) + (X - M))}^{2}] .

$g\left(\frac{M+m}{2}\right) = \mathbb{E}\left[\left(X - \frac{M+m}{2}\right)^2 \right] = \frac{1}{4}\mathbb{E}\left[\left((X-m) + (X-M)\right)^2 \right] \, .$

X - m \geq 0

$X-m\geq 0$

X - M \leq 0

$X-M\leq 0$

{((X - m) + (X - M))}^{2} \leq {((X - m) - (X - M))}^{2} = {(M - m)}^{2},

$\left((X-m)+(X-M)\right)^2\leq\left((X-m)-(X-M)\right)^2=\left(M-m\right)^2 \, ,$

\frac{1}{4} E [{((X - m) + (X - M))}^{2}] \leq \frac{1}{4} E [{((X - m) - (X - M))}^{2}] = \frac{(M - m)^{2}}{4} .

$\frac{1}{4}\mathbb{E}\left[\left((X-m) + (X-M)\right)^2 \right] \leq \frac{1}{4}\mathbb{E}\left[\left((X-m) - (X-M)\right)^2 \right] = \frac{(M-m)^2}{4} \, .$ Por lo tanto, probamos la desigualdad de Popoviciu

V a r [X] \leq \frac{(M - m)^{2}}{4} .

$\mathbb{Var}[X]\leq \frac{(M-m)^2}{4} \, .$

— zen
fuente

3

Enfoque agradable: es bueno ver demostraciones rigurosas de este tipo de cosas.

— whuber

22

+1 Nice! Aprendí estadísticas mucho antes de que las computadoras estuvieran en boga, y una idea que se nos introdujo fue que que permitió el cálculo de la varianza al encontrar la suma de los cuadrados de las desviaciones de cualquier punto conveniente y luego ajustar el sesgo. Aquí, por supuesto, esta identidad ofrece una prueba simple del resultado de que tiene un valor mínimo en sin la necesidad de derivados, etc.

E [(X - t)^{2}] = E [((X - μ) - (t - μ))^{2}] = E [(X - μ)^{2}] + (t - μ)^{2}

$E[(X-t)^2] = E[((X-\mu)-(t-\mu))^2] = E[(X-\mu)^2]+(t-\mu)^2$

t

$t$

g (t)

$g(t)$

t = μ

$t=\mu$

— Dilip Sarwate

18

Sea una distribución en . Vamos a demostrar que si la varianza de es máxima, entonces puede tener ningún apoyo en el interior, de la que se deduce que es Bernoulli y el resto es trivial. $F$ $[0,1]$ $F$ $F$ $F$

Como cuestión de notación, y mucho $\mu_k = \int_0^1 x^k dF(x)$ sea el $k$ ésimo momento prima de $F$ (y, como de costumbre, escribimos y $\mu = \mu_1$ para la varianza). $\sigma^2 = \mu_2 - \mu^2$

Sabemos que no tiene todo su soporte en un punto (la varianza es mínima en ese caso). Entre otras cosas, esto implica que encuentra estrictamente entre y . Para argumentar por contradicción, suponga que hay un subconjunto medible en el interior para el cual . Sin ninguna pérdida de generalidad, podemos suponer (cambiando a si es necesario) que $F$ $\mu$ $0$ $1$ $I$ $(0,1)$ $F(I)\gt 0$ $X$ $1-X$ : en otras palabras, se obtiene cortando cualquier parte de encima de la media y tiene una probabilidad positiva. $F(J = I \cap (0, \mu]) \gt 0$ $J$ $I$ $J$

Alteremos a tomando toda la probabilidad de y colocándola en . $F$ $F'$ $J$ $0$ Al hacerlo, cambia a $\mu_k$

μ_{k}^{'} = μ_{k} - \int_{J} x^{k} d F (x) .

$\mu'_k = \mu_k - \int_J x^k dF(x).$

Como una cuestión de notación, escribamos para tales integrales, de donde $[g(x)] = \int_J g(x) dF(x)$

μ_{2}^{'} = μ_{2} - [x^{2}], μ^{'} = μ - [x] .

$\mu'_2 = \mu_2 - [x^2], \quad \mu' = \mu - [x].$

Calcular

σ^{' 2} = μ_{2}^{'} - μ^{' 2} = μ_{2} - [x^{2}] - (μ - [x])^{2} = σ^{2} + ((μ [x] - [x^{2}]) + (μ [x] - [x]^{2})) .

$\sigma'^2 = \mu'_2 - \mu'^2 = \mu_2 - [x^2] - (\mu - [x])^2 = \sigma^2 + \left((\mu[x] - [x^2]) + (\mu[x] - [x]^2)\right).$

El segundo término de la derecha, , es no negativo debido todas partes en . El primer término de la derecha puede reescribirse $(\mu[x] - [x]^2)$ $\mu \ge x$ $J$

μ [x] - [x^{2}] = μ (1 - [1]) + ([μ] [x] - [x^{2}]) .

$\mu[x] - [x^2] = \mu(1 - [1]) + ([\mu][x] - [x^2]).$

El primer término a la derecha es estrictamente positivo porque (a) y (b) porque asumimos que no está concentrado en un punto. El segundo término no es negativo porque puede reescribirse como y este integrando no es negativo a partir de los supuestos en y $\mu \gt 0$ $[1] = F(J) \lt 1$ $F$ $[(\mu-x)(x)]$ $\mu \ge x$ $J$ $0 \le x \le 1$ . Se deduce que . $\sigma'^2 - \sigma^2 \gt 0$

Acabamos de demostrar que, bajo nuestras suposiciones, cambiar a aumenta estrictamente su varianza. La única forma en que esto no puede suceder, entonces, es cuando toda la probabilidad de se concentra en los puntos finales y , con (digamos) valores y , respectivamente. Su varianza se calcula fácilmente a la igualdad de que es máxima cuando y es igual a allí. $F$ $F'$ $F'$ $0$ $1$ $1-p$ $p$ $p(1-p)$ $p=1/2$ $1/4$

Ahora, cuando es una distribución en , volvemos a centrarla y la redimensionamos a una distribución en . La reubicación no cambia la varianza, mientras que la reescalada la divide por . Así, una con varianza máxima en corresponde a la distribución con varianza máxima en : por lo tanto, es un Bernoulli $F$ $[a,b]$ $[0,1]$ $(b-a)^2$ $F$ $[a,b]$ $[0,1]$ $(1/2)$ distribución reescalado y traducido a que tiene varianza , QED . $[a,b]$ $(b-a)^2/4$

— whuber
fuente

Interesante, whuber. No conocía esta prueba.

— Zen

66

@Zen No es tan elegante como el tuyo. Lo ofrecí porque me he encontrado a lo largo de los años pensando de esta manera cuando me enfrento a desigualdades de distribución mucho más complicadas: pregunto cómo se puede cambiar la probabilidad para hacer que la desigualdad sea más extrema. Como una heurística intuitiva es útil. Al utilizar enfoques como el presentado aquí, sospecho que se podría derivar una teoría general para probar una gran clase de tales desigualdades, con una especie de sabor híbrido del cálculo de variaciones y técnicas multiplicadoras de Lagrange (dimensiones finitas).

— whuber

Perfecto: su respuesta es importante porque describe una técnica más general que se puede utilizar para manejar muchos otros casos.

— Zen

@whuber dijo: "Pregunto cómo se puede cambiar la probabilidad para hacer que la desigualdad sea más extrema". - Esta parece ser la forma natural de pensar sobre tales problemas.

— Glen_b -Reinstala a Monica

Parece haber algunos errores en la derivación. Debe ser

Además,

no es igual a

μ [x] - [x^{2}] = μ (1 - [1]) [x] + ([μ] [x] - [x^{2}]) .

$\mu[x] - [x^2] = \mu(1 - [1])[x] + ([\mu][x] - [x^2]).$

[(μ - x) (x)]

$[(\mu-x)(x)]$

ya que

no es lo mismo que

[μ] [x] - [x^{2}]

$[\mu][x] - [x^2]$

[μ] [x]

$[\mu][x]$

μ [x]

$\mu[x]$

— Leo

13

Si la variable aleatoria está restringida a y conocemos la media , la varianza está limitada por . $[a,b]$ $\mu=E[X]$ $(b-\mu)(\mu-a)$

Consideremos primero el caso . Tenga en cuenta que para todo , , por lo que también . Usando este resultado, $a=0, b=1$ $x\in [0,1]$ $x^2\leq x$ $E[X^2]\leq E[X]$

σ^{2} = E [X^{2}] - (E [X]^{2}) = E [X^{2}] - μ^{2} \leq μ - μ^{2} = μ (1 - μ) .

$\begin{equation} \sigma^2 = E[X^2] - (E[X]^2) = E[X^2] - \mu^2 \leq \mu - \mu^2 = \mu(1-\mu). \end{equation}$

Para generalizar a intervalos con , considere restringido a . Definir $[a,b]$ $b>a$ $Y$ $[a,b]$ , que está restringido en. De manera equivalente,, y por lo tanto $X=\frac{Y-a}{b-a}$ $[0,1]$ $Y = (b-a)X + a$

V a r [Y] = (b - a)^{2} V a r [X] \leq (b - a)^{2} μ_{X} (1 - μ_{X}) .

$\begin{equation} Var[Y] = (b-a)^2Var[X] \leq (b-a)^2\mu_X (1-\mu_X). \end{equation}$ donde la desigualdad se basa en el primer resultado. Ahora, sustituyendo

, el límite es igual a

μ_{X} = \frac{μ_{Y} - a}{b - a}

$\mu_X = \frac{\mu_Y - a}{b-a}$

que es el resultado deseado.

(b - a)^{2} \frac{μ_{Y} - a}{b - a} (1 - \frac{μ_{Y} - a}{b - a}) = (b - a)^{2} \frac{μ_{Y} - a}{b - a} \frac{b - μ_{Y}}{b - a} = (μ_{Y} - a) (b - μ_{Y}),

$\begin{equation} (b-a)^2\, \frac{\mu_Y - a}{b-a}\,\left(1- \frac{\mu_Y - a}{b-a}\right) = (b-a)^2 \frac{\mu_Y -a}{b-a}\,\frac{b - \mu_Y}{b-a} = (\mu_Y - a)(b- \mu_Y), \end{equation}$

— Juho Kokkala
fuente

8

A petición de @ user603 ...

$\sigma^2$ $[a,b]$ $1$ $\sigma^2 \leq \frac{(b−a)^2}{4}$ $a=0, b=1$ $a$ $b$ $\frac{1}{2}$ $\frac{(b−a)^2}{4}$

Otro punto a tener en cuenta es que una variable aleatoria limitada tiene una varianza finita, mientras que para una variable aleatoria no limitada, la varianza puede no ser finita y, en algunos casos, ni siquiera ser definible. Por ejemplo, la media no se puede definir para las variables aleatorias de Cauchy , por lo que no se puede definir la varianza (como la expectativa de la desviación al cuadrado de la media).

— Dilip Sarwate
fuente

este es un caso especial de la respuesta de @ Juho

— Aksakal

Fue solo un comentario, pero también podría agregar que esta respuesta no responde a la pregunta formulada.

— Aksakal

@Aksakal Entonces ??? Juho estaba respondiendo una pregunta ligeramente diferente y mucho más reciente. Esta nueva pregunta se ha fusionado con la que ves arriba, a la que respondí hace diez meses.

— Dilip Sarwate

0

$[a,b]$

V a r (X) = E [(X - E [X])^{2}] \leq E [(b - a)^{2}] = (b - a)^{2} .

$Var(X) = E[(X-E[X])^2] \le E[(b-a)^2] = (b-a)^2.$

1 / 4

$1/4$

Este artículo se ve mejor que el artículo de Wikipedia ...

V a r (X) = \frac{(b - a)^{2}}{12} .

$Var(X) = \frac{(b-a)^2}{12}.$

— Ric
fuente

Esta página indica el resultado con el inicio de una prueba que me involucra demasiado, ya que parece requerir una comprensión del "Teorema fundamental de la programación lineal". sci.tech-archive.net/Archive/sci.math/2008-06/msg01239.html

— Adam Russell

¡Gracias por ponerle nombre a esto! "La desigualdad de Popoviciu" es justo lo que necesitaba.

— Adam Russell

2

1 / 4

$1/4$

2

Una distribución continua puede acercarse a una discreta (en términos de cdf) de manera arbitraria (por ejemplo, construir una densidad continua a partir de una determinada discreta colocando un pequeño núcleo en forma de Beta (4,4) centrado en cada punto de masa - del área apropiada - y permita que la desviación estándar de cada núcleo se reduzca a cero mientras mantiene su área constante). Tales límites discretos, como se discute aquí, también actuarán como límites en las distribuciones continuas. Espero que esté pensando en distribuciones unimodales continuas ... que de hecho tienen límites superiores diferentes.

— Glen_b -Reinstala a Monica

2

Bueno ... mi respuesta fue la menos útil, pero la dejaría aquí debido a los buenos comentarios. Saludos, R

— Ric