¿Cuál es la distinción entre ergódico y estacionario?

Tengo problemas para distinguir entre estos dos conceptos. Este es mi entendimiento hasta ahora.

Un proceso estacionario es un proceso estocástico cuyas propiedades estadísticas no cambian con el tiempo. Para un proceso estacionario de sentido estricto, esto significa que su distribución de probabilidad conjunta es constante; Para un proceso estacionario de sentido amplio, esto significa que sus primeros y segundos momentos son constantes.

Un proceso ergódico es aquel en el que sus propiedades estadísticas, como la varianza, pueden deducirse de una muestra suficientemente larga. Por ejemplo, la media muestral converge con la media real de la señal, si promedia el tiempo suficiente.

Ahora, me parece que una señal tendría que ser estacionaria, para ser ergódica.

• ¿Y qué tipo de señales podrían ser estacionarias, pero no ergódicas?
• Si una señal tiene la misma varianza para todos los tiempos, por ejemplo, ¿cómo podría la varianza promediada en el tiempo no converger al valor verdadero?
• Entonces, ¿cuál es la distinción real entre estos dos conceptos?
• ¿Me puede dar un ejemplo de un proceso que sea estacionario sin ser ergódico, o ergódico sin ser estacionario?

Un proceso aleatorio es una colección de variables aleatorias, una para cada instante de tiempo bajo consideración. Típicamente, esto puede ser tiempo continuo ( ) o tiempo discreto (todos los enteros , o todos los instantes de tiempo donde es el intervalo de muestra). $-\infty < t < \infty$$n$$nT$$T$

• La estacionariedad se refiere a las distribuciones de las variables aleatorias. Específicamente, en un proceso estacionario, todas las variables aleatorias tienen la misma función de distribución, y más generalmente, para cada entero positivo y instantes de tiempo , la distribución conjunta de las variables aleatorias es lo mismo que la distribución conjunta de . Es decir, si cambiamos todos los instantes de tiempo por , la descripción estadística del proceso no cambia en absoluto: el proceso es estacionario$n$$n$$t_1, t_2, \ldots, t_n$ n X ( t 1 ) , X ( t 2 ) , ⋯ , X ( t n ) X ( t 1 + τ ) , X ( t 2 + τ ) , ⋯ , X ( t n + τ ) τ$n$$X(t_1), X(t_2), \cdots, X(t_n)$$X(t_1+\tau), X(t_2+\tau), \cdots, X(t_n+\tau)$$\tau$.
• La ergodicidad, por otro lado, no analiza las propiedades estadísticas de las variables aleatorias sino las rutas de muestra , es decir, lo que observa físicamente. Volviendo a las variables aleatorias, recuerde que las variables aleatorias son asignaciones de un espacio muestral a los números reales; cada resultado se mapea en un número real, y diferentes variables aleatorias típicamente mapearán cualquier resultado dado a diferentes números. Entonces, imagine que un ser superior realizó el experimento que resultó en un resultado en el espacio muestral, y este resultado ha sido mapeado en números reales (típicamente diferentes) por todas las variables aleatorias en el proceso: específicamente, el azar la variable ha mapeado$\omega$$X(t)$$\omega$a un número real lo denotaremos como . Los números , considerados como una forma de onda, son la ruta de muestra correspondiente a , y diferentes resultados nos darán diferentes rutas de muestra. La ergodicidad luego se ocupa de las propiedades de las rutas de muestra y cómo estas propiedades se relacionan con las propiedades de las variables aleatorias que comprenden el proceso aleatorio.$x(t)$x ( t ) ω $x(t)$$\omega$

Ahora, para una ruta de muestra de un proceso estacionario , podemos calcular el promedio de tiempo pero, ¿qué tiene que ver con , la media del proceso aleatorio? (Tenga en cuenta que no importa qué valor de usemos; todas las variables aleatorias tienen la misma distribución y, por lo tanto, tienen la misma media (si la media existe)). Como dice el OP, el valor promedio o componente DC de una ruta de muestra converge con el valor medio del proceso si la ruta de muestra se observa lo suficiente, siempre que el proceso sea ergódico$x(t)$ˉ x = 1

$$\bar{x} = \frac{1}{2T} \int_{-T}^T x(t) \,\mathrm dt$$ $\bar{x}$$\mu = E[X(t)]$$t$y estacionario, etc. Es decir, la ergodicidad es lo que nos permite conectar los resultados de los dos cálculos y afirmar que es igual a Se dice que un proceso para el que se cumple dicha igualdad es medio ergódico , y un proceso es medio ergódico si su función de autocovarianza tiene la propiedad: $$\lim_{T\to \infty}\bar{x} = \lim_{T\to \infty}\frac{1}{2T} \int_{-T}^T x(t) \,\mathrm dt$$
$$\mu = E[X(t)] = \int_{-\infty}^\infty uf_X(u) \,\mathrm du.$$ $C_X(\tau)$ $$\lim_{T\to\infty}\frac{1}{2T}\int_{-T}^T C_X(\tau) \mathrm d\tau = 0.$$

Por lo tanto, no todos los procesos estacionarios deben ser medio ergódicos. Pero también hay otras formas de ergodicidad. Por ejemplo, para un proceso autocovarianza-ergódico , la función de autocovarianza de un segmento finito (digamos para de la ruta de muestra converge a la función de autocovarianza del proceso como . Una declaración general de que un proceso es ergódico podría significar cualquiera de las diversas formas o podría significar una forma específica; uno simplemente no puede decir,$t\in (-T, T)$$x(t)$$C_X(\tau)$$T\to \infty$

Como ejemplo de la diferencia entre los dos conceptos, suponga que para todas las bajo consideración. Aquí es una variable aleatoria. Este es un proceso estacionario: cada tiene la misma distribución (es decir, la distribución de ), la misma media , la misma varianza, etc .; cada y tienen la misma distribución conjunta (aunque es degenerada) y así sucesivamente. Pero el proceso no es ergódico porque cada ruta de muestra es una constante . Específicamente, si una prueba del experimento (realizada por usted o por un ser superior) resulta en$X(t) = Y$$t$$Y$$X(t)$$Y$$E[X(t)] = E[Y]$$X(t_1)$$X(t_2)$$Y$ teniendo valor , entonces la ruta de muestra del proceso aleatorio que corresponde a este resultado experimental tiene valor para todo , y el valor de CC de la ruta de muestra es , no , no importa cuánto tiempo observe la ruta de muestra (bastante aburrida). En un universo paralelo, la prueba daría como resultado y la ruta de muestra en ese universo tendría un valor para todo . No es fácil escribir especificaciones matemáticas para excluir tales trivialidades de la clase de procesos estacionarios, por lo que este es un ejemplo muy mínimo de un proceso aleatorio estacionario que no es ergódico.$\alpha$$\alpha$$t$$\alpha$$E[X(t)] = E[Y]$$Y = \beta$$\beta$$t$

¿Puede haber un proceso aleatorio que no sea estacionario pero que sea ergódico? Bueno, N0 , no si por ergódico queremos decir ergódico de todas las maneras posibles en las que uno puede pensar: por ejemplo, si medimos la fracción de tiempo durante la cual un segmento largo de la ruta de muestra tiene valor como máximo , esta es una buena estimación de , el valor del (común) CDF de las en si se asume el proceso a ser ergódico con respecto a las funciones de distribución. Sin embargo , nos podemos tener procesos aleatorios que son$x(t)$$\alpha$$P(X(t) \leq \alpha) = F_X(\alpha)$$F_X$$X(t)$$\alpha$no estacionarias pero son, sin embargo, medias -ergódicas y autocovarianzas -ergódicas Por ejemplo, considere el proceso donde adquiere cuatro valores igualmente probables y . Tenga en cuenta que cada es una variable aleatoria discreta que, en general, adopta cuatro valores igualmente probables y , es fácil ver que en general y$\{X(t)\colon X(t)= \cos (t + \Theta), -\infty < t < \infty\}$$\Theta$$0, \pi/2, \pi$$3\pi/2$$X(t)$$\cos(t), \cos(t+\pi/2)=-\sin(t), \cos(t+\pi) = -\cos(t)$$\cos(t+3\pi/2)=\sin(t)$$X(t)$$X(s)$tienen diferentes distribuciones, por lo que el proceso ni siquiera es estacionario de primer orden. Por otro lado, por cada mientras En resumen, el proceso tiene media cero y su función de autocorrelación (y autocovarianza) depende solo de la diferencia de tiempo , por lo que el proceso es

$$E[X(t)] = \frac 14\cos(t)+ \frac 14(-\sin(t)) + \frac 14(-\cos(t))+\frac 14 \sin(t) = 0$$ $t$ $$\begin{align} E[X(t)X(s)]&= \left.\left.\frac 14\right[\cos(t)\cos(s) + (-\cos(t))(-\cos(s)) + \sin(t)\sin(s) + (-\sin(t))(-\sin(s))\right]\\ &= \left.\left.\frac 12\right[\cos(t)\cos(s) + \sin(t)\sin(s)\right]\\ &= \frac 12 \cos(t-s). \end{align}$$ $t-s$amplio sentido estacionario. Pero no es estacionaria de primer orden y, por lo tanto, tampoco puede ser estacionaria para órdenes superiores. Ahora, cuando se realiza el experimento y se conoce el valor de , obtenemos la función de muestra que claramente debe ser una de y que tienen un valor DC que es igual a , y cuya función de autocorrelación es , igual que , por lo que este proceso es medio ergódico y autocorrelación-ergódico aunque no sea estacionario en absoluto. Para terminar, observo que el proceso no es ergódico con respecto a la función de distribución$\Theta$$\pm \cos(t)$$\pm \sin(t)$$0$$0$$\frac 12 \cos(\tau)$$R_X(\tau)$es decir, no se puede decir que sea ergódico en todos los aspectos.

Consideremos un proceso aleatorio hipotético donde las funciones de muestra son valores DC y son diferentes entre sí:

X ₁ (t) = constante = media de X ₁ (t)

X ₂ (t) = constante = media de X ₂ (t)

La media temporal de y son constantes pero no iguales. si mi proceso es estacionario, y son iguales y RV (consulte la respuesta de Dilip)$X_1(t)$$X_2(t)$$X(t_1)$$X(t_2)$

Entonces la media del conjunto de es constante.$X(t)$

Esta media del conjunto ciertamente no es igual a la media temporal de y (ellos mismos no son iguales). Esto puede llamarse un proceso estacionario pero no ergódico.$X_1(t)$$X_2(t)$

En contraste, donde es un RV es ergódico.$X(t)=Acos(\omega t+\theta)$$\theta$

Espero que este video (del Instituto de Tecnología de Florida. Titulado "lo que es amplio sentido, estacionario, sentido estricto, señales ergódicas" por el Dr. Ivica Kostanic en su clase de Teoría de las Comunicaciones) de 16:55 podría aclarar sus dudas.

Un proceso ergódico es un proceso por el cual puede sustituir la media ergódica por la media temporal.

La media real, la varianza, etc., se definen siguiendo un proceso a lo largo del tiempo y promediando, etc. Por ejemplo, si quieres saber la media de mi talla, deberías promediarla desde mi nacimiento. a cuando me muera. Obviamente, el ejemplo posterior no es un proceso estacionario.

La media ergódica sería si, en lugar de seguir mi talla a lo largo del tiempo, congelaras el tiempo y tomaras la media sobre una muestra de diferentes humanos. No hay razón para que estos dos medios sean iguales, por lo que el proceso de mi tamaño no es ergódico.

Ese es un mal ejemplo, pero se vuelve más importante si considera el caso simple de un gas en equilibrio. Por ejemplo, la velocidad cuadrática media se observa (media en el tiempo), pero a menudo se calcula tomando la media del conjunto : la media de la velocidad cuadrada de todas las moléculas de el gas en un instante .$\bar{V^2}$$\left< V^2 \right>$$t$

La mayoría de los teoremas de termodinámica requieren el uso de , pero es más fácil de calcular y usar . La hipótesis ergódica es la hipótesis que establece que es correcto sustituir una por la otra. Un proceso ergódico es un proceso para el cual la hipótesis ergódica es verdadera.$\bar{V^2}$$\left< V^2 \right>$

La hipótesis ergódica es falsa en el caso general.

Para un ejemplo del caso opuesto (es decir, un proceso aleatorio que es ergódico pero no estacionario), considere un proceso de ruido blanco que es modulado en amplitud por una onda cuadrada determinista. El promedio de tiempo de cada función de muestra es igual a cero, al igual que el promedio del conjunto en todo momento. Entonces el proceso es ergódico. Sin embargo, la varianza de cualquier función de muestra individual muestra la dependencia original de la onda cuadrada en el tiempo, por lo que el proceso no es estacionario.

Este ejemplo particular es estacionario de sentido amplio, pero uno puede inventar ejemplos relacionados que todavía son ergódicos pero ni siquiera estacionarios de sentido amplio.

como entiendo, el ejemplo a continuación muestra un proceso ergódico y estacionario

 X1 X2 X3  | mean var ...
 1  2  3   | 2    1
 2  3  1   | 2
 3  1  2   | 2
 ----------

media 2 2 2 var 1

porque la media y la varianza de cada columna son constantes a lo largo del tiempo y la media y la varianza de cada fila son constantes a lo largo del tiempo