¿Ventajas de simulaciones múltiples en el antiguo Monte Carlo?

El espíritu de esta pregunta proviene del "Monte Carlo ordinario", también conocido como "el buen Monte Carlo a la antigua".

Supongamos que tengo una variable aleatoria , con$X$

$$\mu := E[X]\\ \sigma^2:=Var[X]$$

Ambos son valores desconocidos, porque la función de distribución de probabilidad de es desconocida (o los cálculos son intratables).$X$

De cualquier manera, supongamos que de alguna manera podemos simular dibuja (estos son independientes e idénticamente distribuidas) de la distribución de . Definamos los parámetros de muestra$n$$X_1,X_2,\dots,X_n$$X$

$$\hat{\mu}_n := \frac{1}{n}\sum_{i=1}^{n}X_i\\ \hat{\sigma}_n^2 : = \frac{1}{n}\sum_{i=1}^{n}(X_i-\hat{\mu}_n)^2$$

Según el Teorema del límite central, a medida que $n$ vuelve muy grande, la media muestral $\hat{\mu}_n$ obedecerá estrechamente a una distribución normal

$$\hat{\mu} \sim N(\mu,\frac{\sigma^2}{n})$$

Antes de que podamos calcular los intervalos de confianza, el autor afirma que, dado que no conocemos $\sigma^2$ , haremos la estimación de que $\sigma^2 \approx \hat{\sigma}^2$ , o más precisamente para una estimación imparcial $\sigma^2 \approx \frac{n}{n-1}\hat{\sigma}^2$ , y podemos proceder desde allí utilizando técnicas estándar.

Ahora, aunque el autor menciona la importancia de $n$ suficientemente grande ( número de dibujos por simulación), no se menciona el número de simulaciones y su efecto en nuestra confianza.

¿Hay alguna ventaja de ejecutar simulaciones (realizar sorteos cada vez) para obtener varias medias de muestra , y luego usar los medios de los medios para mejorar nuestras estimaciones y confianza con respecto a los desconocidos de ?$k$$n$$\hat{\mu}_{n,1}, \hat{\mu}_{n,2}, \dots \hat{\mu}_{n,k}$$\mu,\sigma$$X$

¿O es suficiente extraer muestras de en una sola simulación, siempre que sea ​​lo suficientemente grande?$n$$X$$n$

Siempre y cuando se eviten los problemas relacionados con la generación de números pseudoaleatorios (ver nota al final), los dos enfoques ( simulaciones con sorteos versus simulación simple con suficientemente grande ) son equivalentes con respecto a la estimación de la media . Con respecto a la memoria, observe que, en el caso de las simulaciones , debe almacenar los medios de muestra antes de realizar el media final, mientras que esto no sucede en el escenario de simulación única. Con las computadoras modernas, realizar una sola simulación con suficientemente grande no debería ser más difícil de lo que se describió anteriormente y, de hecho, debería ahorrar tiempo.$k$$n$$n$$k$$\hat{\mu}_{n,1}, \dots, \hat{\mu}_{n,k}$$n$

La razón matemática más allá de la equivalencia es la linealidad. Para ser más precisos, en el escenario de simulaciones , calcula la media muestral "final" siguiente manera donde denota el sorteo numerado en la simulación . Este orden es arbitrario si no sucede nada extraño, por lo tanto, puede volver a etiquetar cada con un nuevo índice, digamos , obteniendo $k$$\hat{\mu}$

$$\hat{\mu} = \frac{1}{k} \sum_{h=1}^k \hat{\mu}_{n,h} = \frac{1}{k} \sum_{h=1}^k \frac{1}{n} \sum_{i=1}^n X^{(h)}_i = \frac{1}{nk} \sum_{h=1}^k \sum_{i=1}^n X^{(h)}_i$$ $X_i^{(h)}$$i$$h$$X_i^{(h)}$$m=1,\dots,nk$ $$\hat{\mu} = \frac{1}{nk} \sum_{m=1}^{nk} X_m$$ Pero esto es equivalente a realizar una sola simulación con draws (obviamente, los sorteos deben ser iid, como ya se señaló).$nk$

Nota: Los posibles problemas con los PRNG se describen en la página de Wikipedia .