Un serio problema en profundidad de probabilidades de lanzar monedas

Digamos que estoy haciendo 10,000 lanzamientos de una moneda. Me gustaría saber la probabilidad de cuántas vueltas se necesitan para obtener 4 o más caras consecutivas seguidas.

El recuento funcionaría de la siguiente manera, contaría una ronda sucesiva de lanzamientos siendo solo cabezas (4 cabezas o más). Cuando una cola golpea y rompe la racha de cabezas, el conteo comenzaría nuevamente desde el siguiente giro. Esto luego se repetiría para 10,000 lanzamientos.

Me gustaría saber la probabilidad de no solo 4 o más caras seguidas, sino 6 o más y 10 o más. Para aclarar si se logra una racha de 9 cabezas, se sumaría como 1 racha 4 o más (y / o 6 o más), no 2 rachas separadas. Por ejemplo, si la moneda vino THTHTHTHHHHHH /// THAHTHT ... el conteo sería 13 y comenzaría nuevamente en las siguientes colas.

Digamos que los datos salen muy sesgados a la derecha; el promedio es de 40 volteos en promedio para lograr una racha de 4 o más, y la distribución es u = 28. Obviamente sesgada.

Estoy haciendo todo lo posible para encontrar una manera de dar sentido a los datos descriptivos, excepto que hasta ahora no he encontrado nada.

Quiero encontrar alguna forma de obtener alguna probabilidad razonable de ello. Como una curva normal donde +/- 1 SD es 68%, etc. He examinado la normalización de registros y eso solo se usa realmente para una prueba paramétrica que no es mi objetivo.

Me han dicho distribuciones beta, pero cada sugerencia que he tenido ha sido bastante confusa. Hice esta pregunta hace un año y obtuve una idea, pero desafortunadamente todavía no tengo una respuesta. Gracias a cualquiera de ustedes que tenga ideas.

Si lo he entendido correctamente, entonces el problema es encontrar una distribución de probabilidad para el momento en que termina la primera ejecución de o más cabezas.$n$

Editar Las probabilidades se pueden determinar con precisión y rapidez utilizando la multiplicación de matrices, y también es posible calcular analíticamente la media como y la varianza como where , pero probablemente no haya una forma cerrada simple para la distribución en sí. Por encima de cierto número de lanzamientos de monedas, la distribución es esencialmente una distribución geométrica: tendría sentido usar esta forma para más grande .σ 2 = 2 n + 2 ( μ - n - 3 ) - μ 2 + 5 μ μ = μ - + 1 $\mu_-=2^{n+1}-1$$\sigma^2=2^{n+2}\left(\mu-n-3\right) -\mu^2 + 5\mu$$\mu=\mu_-+1$$t$

La evolución en el tiempo de la distribución de probabilidad en el espacio de estados puede modelarse utilizando una matriz de transición para estados, donde el número de lanzamientos consecutivos de monedas. Los estados son los siguientes:n $k=n+2$$n=$

• Estado , sin cabezas$H_0$
• Estado , heads, i 1 ≤ i ≤ ( n - 1 $H_i$$i$$1\le i\le(n-1)$
• Estado , o más cabezas$H_n$$n$
• Indique , o más cabezas seguidas de una cola$H_*$$n$

Una vez que al estado no puede regresar a ninguno de los otros estados.$H_*$

Las probabilidades de transición de estado para ingresar a los estados son las siguientes

• Estado : probabilidad de , , es decir, incluyéndose a sí mismo pero no el estado$H_0$ Hii=0,…,n-1H$\frac12$$H_i$$i=0,\ldots,n-1$$H_n$
• Estado : probabilidad de$H_i$ Hi-$\frac12$$H_{i-1}$
• Estado : probabilidad de , es decir, del estado con cabezas y sí mismo$H_n$ Hn-1,Hnn-$\frac12$$H_{n-1},H_n$$n-1$
• Estado : probabilidad de y probabilidad 1 de (sí mismo)$H_*$ HnH$\frac12$$H_n$$H_*$

Entonces, por ejemplo, para , esto da la matriz de transición$n=4$

$$X = \left\{ \begin{array}{c|cccccc} & H_0 & H_1 & H_2 & H_3 & H_4 & H_* \\ \hline H_0 & \frac12 & \frac12& \frac12& \frac12 &0 & 0 \\ H_1 & \frac12 &0 & 0 &0 & 0 & 0 \\ H_2 & 0 & \frac12 &0 &0 & 0 & 0 \\ H_3 & 0 & 0 &\frac12 &0 & 0 & 0 \\ H_4 & 0 & 0 &0 &\frac12 & \frac12 & 0 \\ H_* & 0 & 0 & 0&0 &\frac12 & 1 \end{array}\right\}$$

Para el caso , el vector inicial de probabilidades p es p = ( 1 , 0 , 0 , 0 , 0 , 0 ) . En general, el vector inicial tiene p i = { 1 i = 0 0 i > $n=4$$\mathbf{p}$$\mathbf{p}=(1,0,0,0,0,0)$

$$\mathbf{p}_i=\begin{cases}1&i=0\\0&i>0\end{cases}$$

El vector es la distribución de probabilidad en el espacio para cualquier momento dado. El cdf requerido es un cdf en el tiempo , y es la probabilidad de haber visto al menos n monedas al final del tiempo t . Se puede escribir como ( X t + 1 p ) k , observando que alcanzamos el estado H ∗ 1 veces después del último en la serie de lanzamientos consecutivos de monedas.$\mathbf{p}$$n$$t$$(X^{t+1}\mathbf{p})_k$$H_*$

El pmf requerido en el tiempo se puede escribir como . Sin embargo, numéricamente esto implica quitar un número muy pequeño de un número mucho mayor ( ≈ 1 ) y restringe la precisión. Por lo tanto, en los cálculos es mejor establecer X k , k = 0 en lugar de 1. Luego, escribir X ′ para la matriz resultante X ′ = X | X k , k = $(X^{t+1}\mathbf{p})_k - (X^{t}\mathbf{p})_k$$\approx 1$$X_{k,k}=0$$X'$$X'=X|X_{k,k}=0$, el pmf es . Esto es lo que se implementa en el programa R simple a continuación, que funciona para cualquier n ≥ 2 ,$(X'^{t+1}\mathbf{p})_k$$n\ge 2$

n=4
k=n+2
X=matrix(c(rep(1,n),0,0, # first row
           rep(c(1,rep(0,k)),n-2), # to half-way thru penultimate row
           1,rep(0,k),1,1,rep(0,k-1),1,0), # replace 0 by 2 for cdf
         byrow=T,nrow=k)/2
X

t=10000
pt=rep(0,t) # probability at time t
pv=c(1,rep(0,k-1)) # probability vector
for(i in 1:(t+1)) {
  #pvk=pv[k]; # if calculating via cdf
  pv = X %*% pv;
  #pt[i-1]=pv[k]-pvk # if calculating via cdf
  pt[i-1]=pv[k] # if calculating pmf
}

m=sum((1:t)*pt)
v=sum((1:t)^2*pt)-m^2
c(m, v)

par(mfrow=c(3,1))
plot(pt[1:100],type="l")
plot(pt[10:110],type="l")
plot(pt[1010:1110],type="l")

La gráfica superior muestra el pmf entre 0 y 100. Las dos gráficas inferiores muestran el pmf entre 10 y 110 y también entre 1010 y 1110, ilustrando la autosimilitud y el hecho de que, como dice @Glen_b, la distribución parece que puede ser aproximado por una distribución geométrica después de un período de asentamiento.

Es posible investigar este comportamiento aún más el uso de un vector propio de la descomposición . Hacerlo muestra que para t suficientemente grande , p t + 1 ≈ c ( n ) p t , donde c ( n ) es la solución de la ecuación 2 n + 1 c n ( c - 1 ) + 1 = 0 . Esta aproximación mejora con el aumento de ny es excelente para $X$$t$$p_{t+1}\approx c(n)p_t$$c(n)$$2^{n+1}c^n(c-1)+1=0$$n$$t$en el rango de aproximadamente 30 a 50, dependiendo del valor de , como se muestra en la gráfica de error de registro a continuación para calcular p 100 (colores del arco iris, rojo a la izquierda para n = 2 ). (De hecho, por razones numéricas, en realidad sería mejor usar la aproximación geométrica para las probabilidades cuando t es mayor).$n$$p_{100}$$n=2$$t$

Sospecho (ed) que puede haber una forma cerrada disponible para la distribución porque las medias y las variaciones como las he calculado de la siguiente manera

$$\begin{array}{r|rr} n & \text{Mean} & \text{Variance} \\ \hline 2 &7& 24& \\ 3 &15& 144& \\ 4 &31& 736& \\ 5 &63& 3392& \\ 6 &127& 14720& \\ 7 &255& 61696& \\ 8 &511& 253440& \\ 9 &1023& 1029120& \\ 10&2047& 4151296& \\ \end{array}$$

(Tuve que aumentar el número en el horizonte de tiempo t=100000para obtener esto, pero el programa todavía se ejecutó para todos en menos de aproximadamente 10 segundos). Las medias en particular siguen un patrón muy obvio; las variaciones no tanto. He resuelto un sistema de transición de 3 estados más simple en el pasado, pero hasta ahora no tengo suerte con una solución analítica simple para este. Tal vez hay alguna teoría útil que no conozco, por ejemplo, en relación con las matrices de transición.$n=2,\ldots,10$

Editar : después de muchos comienzos falsos se me ocurrió una fórmula de recurrencia. Sea la probabilidad de estar en el estado H i en el tiempo t . Sea q ∗ , t la probabilidad acumulada de estar en el estado H ∗ , es decir, el estado final, en el tiempo t . nótese bien$p_{i,t}$$H_i$$t$$q_{*,t}$$H_*$$t$

• Para cualquier dado , p i , t , 0 ≤ i ≤ n y q * , t son una distribución de probabilidad sobre el espacio i , e inmediatamente debajo de uso el hecho de que sus probabilidades se suman a 1.$t$$p_{i,t}, 0\le i\le n$$q_{*,t}$$i$
• forman una distribución de probabilidad en el tiempo t . Más tarde, uso este hecho para derivar los medios y las variaciones.$p_{*,t}$$t$

La probabilidad de estar en el primer estado en el tiempo , es decir, sin cabezas, viene dada por las probabilidades de transición de los estados que pueden volver a ella desde el tiempo t (usando el teorema de la probabilidad total). p 0 , t + $t+1$$t$ Pero para pasar del estadoH0aHn-1 serequierenn-1pasos, de ahí quepn-1,t+n-1=

$$\begin{align} p_{0,t+1} &= \frac12p_{0,t} + \frac12p_{1,t} + \ldots \frac12p_{n-1,t}\\ &= \frac12\sum_{i=0}^{n-1}p_{i,t}\\ &= \frac12\left( 1-p_{n,t}-q_{*,t} \right) \end{align}$$ $H_0$$H_{n-1}$$n-1$y pn-1,t+n=$p_{n-1,t+n-1} = \frac1{2^{n-1}}p_{0,t}$ Una vez más, según el teorema de la probabilidad total, la probabilidad de estar en el estadoHnen el tiempot+1es p n , t + $$p_{n-1,t+n} = \frac1{2^n}\left( 1-p_{n,t}-q_{*,t} \right)$$ $H_n$$t+1$ y usando el hecho de queq∗,t+1-q∗,t= $$\begin{align} p_{n,t+1} &= \frac12p_{n,t} + \frac12p_{n-1,t}\\ &= \frac12p_{n,t} + \frac1{2^{n+1}}\left( 1-p_{n,t-n}-q_{*,t-n} \right)\;\;\;(\dagger)\\ \end{align}$$ , 2 q ∗ , t + 2 - 2 q ∗ , t + $q_{*,t+1}-q_{*,t}=\frac12p_{n,t} \implies p_{n,t} = 2q_{*,t+1}-2q_{*,t}$ Por lo tanto, cambiandot→t+n, 2q∗,t+n+2-3q∗,t+n+1+q∗,t+n+ $$\begin{align} 2q_{*,t+2} - 2q_{*,t+1} &= q_{*,t+1}-q_{*,t}+\frac1{2^{n+1}}\left( 1-2q_{*,t-n+1}+q_{*,t-n} \right) \end{align}$$ $t\to t+n$ $$2q_{*,t+n+2} - 3q_{*,t+n+1} +q_{*,t+n} + \frac1{2^n}q_{*,t+1} - \frac1{2^{n+1}}q_{*,t} - \frac1{2^{n+1}} = 0$$

$n=4$$n=6$$n=6$t=1:994;v=2*q[t+8]-3*q[t+7]+q[t+6]+q[t+1]/2**6-q[t]/2**7-1/2**7

Editar No puedo ver a dónde ir para encontrar un formulario cerrado a partir de esta relación de recurrencia. Sin embargo, es posible obtener una forma cerrada para la media.

$(\dagger)$$p_{*,t+1}=\frac12p_{n,t}$

$$\begin{align} p_{n,t+1} &= \frac12p_{n,t} + \frac1{2^{n+1}}\left( 1-p_{n,t-n}-q_{*,t-n} \right)\;\;\;(\dagger)\\ 2^{n+1}\left(2p_{*,t+n+2}-p_{*,t+n+1}\right)+2p_{*,t+1} &= 1-q_{*,t} \end{align}$$ $t=0$$\infty$$E[X] = \sum_{x=0}^\infty (1-F(x))$$p_{*,t}$ $$\begin{align} 2^{n+1}\sum_{t=0}^\infty \left(2p_{*,t+n+2}-p_{*,t+n+1}\right) + 2\sum_{t=0}^\infty p_{*,t+1} &= \sum_{t=0}^\infty(1-q_{*,t}) \\ 2^{n+1} \left(2\left(1-\frac1{2^{n+1}}\right)-\;1\;\right) + 2 &= \mu \\ 2^{n+1} &= \mu \end{align}$$ $H_*$

$E[X^2] = \sum_{x=0}^\infty (2x+1)(1-F(x))\;$

$$\begin{align} \sum_{t=0}^\infty(2t+1)\left (2^{n+1}\left(2p_{*,t+n+2}-p_{*,t+n+1}\right) + 2 p_{*,t+1}\right) &= \sum_{t=0}^\infty(2t+1)(1-q_{*,t}) \\ 2\sum_{t=0}^\infty t\left (2^{n+1}\left(2p_{*,t+n+2}-p_{*,t+n+1}\right) + 2 p_{*,t+1}\right) + \mu &= \sigma^2 + \mu^2 \\ 2^{n+2}\left(2\left(\mu-(n+2)+\frac1{2^{n+1}}\right)-(\mu-(n+1))\right) + 4(\mu-1) &\\+ \mu &= \sigma^2 + \mu^2 \\ 2^{n+2}\left(2(\mu-(n+2))-(\mu-(n+1))\right) + 5\mu &= \sigma^2 + \mu^2 \\ 2^{n+2}\left(\mu-n-3\right) + 5\mu &= \sigma^2 + \mu^2 \\ 2^{n+2}\left(\mu-n-3\right) -\mu^2 + 5\mu &= \sigma^2 \end{align}$$

Los medios y las variaciones se pueden generar fácilmente mediante programación. Por ejemplo, para verificar las medias y las variaciones de la tabla anterior, utilice

n=2:10
m=c(0,2**(n+1))
v=2**(n+2)*(m[n]-n-3) + 5*m[n] - m[n]^2

Finalmente, no estoy seguro de lo que querías cuando escribiste

cuando una cola golpea y rompe la racha de cabezas, el conteo comenzaría nuevamente desde el siguiente giro.

$n$$n$

$\mu-1$$\mu+1$$X_{k,k,}=0$$X_{1,k}=1$$H_0$$H_*$$n=4$

$$\begin{array}{c|cccccc} & \text{probability} \\ \hline H_0 & 0.48484848 \\ H_1 & 0.24242424 \\ H_2 & 0.12121212 \\ H_3 & 0.06060606 \\ H_4 & 0.06060606 \\ H_* & 0.03030303 \end{array}$$ $H_* = 1/0.03030303 = 33 = \mu + 1$

Apéndice : programa Python utilizado para generar probabilidades exactas para n= número de Ncaras consecutivas sobre lanzamientos.

import itertools, pylab

def countinlist(n, N):
    count = [0] * N
    sub = 'h'*n+'t'
    for string in itertools.imap(''.join, itertools.product('ht', repeat=N+1)):
        f = string.find(sub)
        if (f>=0):
            f = f + n -1 # don't count t, and index in count from zero 
            count[f] = count[f] +1
            # uncomment the following line to print all matches
            # print "found at", f+1, "in", string
    return count, 1/float((2**(N+1)))

n = 4
N = 24
counts, probperevent = countinlist(n,N)
probs = [count*probperevent for count in counts]

for i in range(N):
    print '{0:2d} {1:.10f}'.format(i+1,probs[i]) 
pylab.title('Probabilities of getting {0} consecutive heads in {1} tosses'.format(n, N))
pylab.xlabel('toss')
pylab.ylabel('probability')
pylab.plot(range(1,(N+1)), probs, 'o')
pylab.show()

No estoy seguro de que sea probable que la versión beta sea particularmente adecuada como una forma de lidiar con este problema: "El número de jugadas hasta ..." es claramente un recuento. Es un número entero, y no hay límite superior en los valores donde se obtiene una probabilidad positiva.

Por el contrario, la distribución beta es continua y en un intervalo limitado, por lo que parece ser una elección inusual. Si coincide con una versión beta escalada, las funciones de distribución acumulativa quizás no se aproximen tan mal en el cuerpo central de la distribución. Sin embargo, es probable que alguna otra opción mejore sustancialmente más en cualquier cola.

Si tiene una expresión para las probabilidades o simulaciones de la distribución (que presumiblemente necesita para encontrar una beta aproximada), ¿por qué no las usaría directamente?

---

Si su interés es encontrar expresiones para probabilidades o la distribución de probabilidad del número de lanzamientos requeridos, probablemente la idea más simple es trabajar con funciones generadoras de probabilidad. Estos son útiles para derivar funciones de relaciones recursivas entre probabilidades, cuyas funciones (pgf) a su vez nos permiten extraer cualquier probabilidad que necesitemos.

Aquí hay una publicación con una buena respuesta que adopta el enfoque algebraico, que explica las dificultades y hace un buen uso de los pgfs y las relaciones de recurrencia. Tiene expresiones específicas para media y varianza en el caso de "dos éxitos en una fila":

/math/73758/probability-of-n-successes-in-a-row-at-the-k-th-bernoulli-trial-geometric

$p = \frac{1}{2}$

-

Si solo desea respuestas numéricas, la simulación es relativamente sencilla. Las estimaciones de probabilidad podrían usarse directamente, o alternativamente sería razonable suavizar las probabilidades simuladas.

Si debe utilizar una distribución aproximada, probablemente pueda elegir algo que funcione bastante bien.

Es posible que una mezcla de binomios negativos (la versión del "número de ensayos" en lugar de la versión del "número de éxitos") sea razonable. Se debe esperar que dos o tres componentes den una buena aproximación en todos menos en la cola extrema.

Si desea una única distribución continua para una aproximación, puede haber mejores opciones que la distribución beta; Sería algo para investigar.

---

Bien, desde entonces he hecho un poco de álgebra, algunos jugando con las relaciones recurrentes, algunas simulaciones e incluso un poco de pensamiento.

Para una muy buena aproximación, creo que puede salirse con la suya simplemente especificando las primeras cuatro probabilidades distintas de cero (lo cual es fácil), calculando los siguientes pocos puñados de valores a través de recurrencia (también fácil) y luego usando una cola geométrica una vez que la relación de recurrencia tiene suavizó la progresión de probabilidades inicialmente menos suave.

Parece que puede usar la cola geométrica con una precisión muy alta más allá de k = 20, aunque si solo le preocupa decir una precisión de 4 cifras, podría traerla antes.

Esto debería permitirle calcular el pdf y el cdf con buena precisión.

Estoy un poco preocupado: mis cálculos dan que el número medio de lanzamientos es 30.0 y la desviación estándar es 27.1; si entendí lo que quieres decir con "x" y "u", obtuviste 40 y 28 en tu lanzamiento. El 28 se ve bien, pero el 40 parece estar muy lejos de lo que obtuve ... lo que me preocupa de haber hecho algo mal.

====

NOTA: Dadas las complejidades entre la primera vez y las veces posteriores que nos encontramos, solo quiero estar absolutamente seguro ahora de que estamos contando lo mismo.

Aquí hay una secuencia corta, con los extremos de las secuencias '4 o más H' marcadas (señalando el espacio entre volteos inmediatamente después de la última H)

       \/                     \/
TTHHHHHHTTHTTTTTHHTTHTTHHTHHHHHT...
       /\                     /\

Entre esas dos marcas cuento 23 vueltas; es decir, tan pronto como termina la secuencia anterior de (6 en este caso) H, comenzamos a contar inmediatamente después de T y luego contamos hasta el final de la secuencia de 5 H (en este caso) que termina la siguiente secuencia , dando una cuenta de 23 en este caso.

¿Es así como los cuentas?

---

Dado que lo anterior es correcto, así es como se ve la función de probabilidad del número de lanzamientos después de que se complete una ejecución de al menos 4 cabezas hasta que se complete la siguiente ejecución de al menos 4 cabezas:

A primera vista, parece que es plano para los primeros valores, luego tiene una cola geométrica , pero esa impresión no es del todo precisa: lleva un tiempo establecerse en una cola efectivamente geométrica.

Estoy trabajando para encontrar una aproximación adecuada que pueda usar para responder a cualquier pregunta que tenga sobre las probabilidades asociadas con este proceso con buena precisión y al mismo tiempo lo más simple posible. Tengo una aproximación bastante buena que debería funcionar (que ya he verificado con una simulación de un lanzamiento de mil millones de monedas) pero hay un sesgo (pequeño pero consistente) en las probabilidades que la aproximación da en parte del rango y me gustaría vea si puedo obtener un dígito adicional de precisión.

Puede ser que la mejor manera de hacerlo es simplemente darle una tabla de la función de probabilidad y cdf a un punto más allá del cual se puede utilizar una distribución geométrica.

Sin embargo, sería útil si puede dar una idea del rango de cosas para las que necesita usar la aproximación.

---

Espero seguir adelante con el enfoque pgf, pero es posible que alguien más sea más competente con ellos que yo y no solo pueda hacer los 4 casos sino también otros.

Quieres la distribución geométrica . De Wikipedia:

$X$

$X$$X=4$$X$

$$P(X=x)=(1-p)^{x-1}p$$

$Y=X-1$

$$P(Y+1=x) = (1-p)^{x-1}p \\ P(Y=x-1) = (1-p)^{x-1}p \\ P(Y=y) = (1-p)^yp$$

$y=0,1,2,3...$$p=0.5$

$$\begin{align} P(Y=y) &= (0.5)^y(0.5) \\ &= 0.5^{y+1} \end{align}$$

$n$$n$$\alpha$

$$\alpha = \sum_{i=0}^{n-1}{P(Y=i)}$$

$Y$$Z$

$$\begin{align} P(Z=z) &= \frac{1}{\alpha}(1-p)^zp \\ &= \frac{1}{\sum_{i=0}^{n-1}{(1-p)^ip}}(1-p)^zp \end{align}$$

$p=0.5$

$$\begin{align} P(Z=z) &= \frac{1}{\sum_{i=0}^{n-1}{0.5^{i+1}}} 0.5^{z+1} \\ &= \frac{1}{1-0.5^n} 0.5^{z+1} \\ &= \frac{0.5^{z+1}}{1-0.5^n} \end{align}$$

$n \rightarrow \infty$$Z$$Y$