Análisis de bolas y contenedores en el régimen

$m$ $n$ $m \gg n$ $X_i$ $i$ $X_\max$ $X_\min$ $X_{\mathrm{sec-max}}$ $X_i - X_j \sim N(0,2m/n)$ $|X_i - X_j| = \Theta(\sqrt{m/n})$ $i,j$ $X_{\max} - X_{\min} = O(\sqrt{m\log n/n})$ $n/2$ pares de contenedores separados. Este argumento (no completamente formal) nos lleva a esperar que la brecha entre $X_{\max}$ y $X_{\min}$ sea $\Theta(\sqrt{m\log n/n})$ con alta probabilidad.

Estoy interesado en la brecha entre $X_\max$ y $X_{\mathrm{sec-max}}$ . El argumento descrito anteriormente muestra que $X_\max - X_{\mathrm{sec-max}} = O(\sqrt{m\log n/n})$ con alta probabilidad, pero el factor $\sqrt{\log n}$ parece extraño . ¿Se sabe algo sobre la distribución de $X_\max - X_{\mathrm{sec-max}}$ ?

En términos más generales, suponga que cada bola está asociada con un puntaje no negativo para cada bin, y estamos interesados en el puntaje total de cada bin después de lanzar $m$ bolas. El escenario habitual corresponde a las puntuaciones de la forma $(0,\ldots,0,1,0,\ldots,0)$ . Suponga que la distribución de probabilidad de los puntajes es invariable bajo la permutación de los contenedores (en el escenario habitual, esto corresponde al hecho de que todos los contenedores son equiprobables). Dada la distribución de los puntajes, podemos usar el método del primer párrafo para obtener un buen límite en $X_{\max} - X_{\min}$ . El límite contendrá un factor de $\sqrt{\log n}$ que proviene de un enlace de unión (a través de las probabilidades de cola de una variable normal). ¿Se puede reducir este factor si estamos interesados en limitar $X_{\max} - X_{\mathrm{sec-max}}$ ?

reference-request pr.probability

— Yuval Filmus
fuente

Cada puntaje está en [0,1]?

— Neal Young el

Realmente no importa, siempre puedes escalarlo para que esté en

[0, 1]

$[0,1]$ .

— Yuval Filmus

Respuestas:

Respuesta: $\Theta\left(\sqrt{\frac{m}{n\log n}}\right)$ .

Aplicando una versión multidimensional del Teorema del límite central, obtenemos que el vector tiene una distribución gaussiana asintóticamente multivariada con y Asumiremos a continuación que es un vector gaussiano (y no solo aproximadamente un vector gaussiano). Agreguemos una variable aleatoria gaussiana con varianza a todo ( es independiente de todo ). Es decir, deja $(X_1,\dots, X_n)$

V a r [X_{i}] = m (\frac{1}{n} - \frac{1}{n^{2}}),

$\mathrm{Var}[X_i] = m\left(\frac{1}{n} - \frac{1}{n^2}\right),$

C o v (X_{i}, X_{j}) = - m / n^{2} .

$\mathrm{Cov}(X_i, X_j) = -m/n^2.$

X

$X$

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

Z

$Z$

X_{i}

$X_i$

(\begin{matrix} Y_{1} \\ Y_{2} \\ ⋮ \\ Y_{n} \end{matrix}) = (\begin{matrix} X_{1} + Z \\ X_{2} + Z \\ ⋮ \\ X_{n} + Z \end{matrix}) .

$\begin{pmatrix} Y_1\\Y_2\\ \vdots\\Y_n \end{pmatrix} = \begin{pmatrix} X_1+Z\\X_2+Z\\ \vdots\\X_n +Z \end{pmatrix}.$ Obtenemos un vector gaussiano . Ahora cada tiene varianza : y todos son independientes:

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

V a r [Y_{i}] = V a r [X_{i}] + \underset{= 0}{\underset{⏟}{2 C o v (X_{i}, Z)}} + V a r [Z] = m / n,

$\mathrm{Var}[Y_i] = \mathrm{Var}[X_i] + \underbrace{2\mathrm{Cov}(X_i,Z)}_{=\, 0}+\mathrm{Var}[Z] = m/n,$

Y_{i}

$Y_i$

C o v (Y_{i}, Y_{j}) = C o v (X_{i}, X_{j}) + \underset{= 0}{\underset{⏟}{C o v (X_{i}, Z) + C o v (X_{j}, Z)}} + C o v (Z, Z) = 0.

$\mathrm{Cov}(Y_i, Y_j) = \mathrm{Cov}(X_i, X_j) + \underbrace{\mathrm{Cov}(X_i,Z) + \mathrm{Cov}(X_j,Z)}_{=\, 0} +\mathrm{Cov}(Z, Z) = 0.$

Tenga en cuenta que . Por lo tanto, nuestro problema original es equivalente al problema de encontrar . Primero, para simplificar, analicemos el caso cuando todos tienen varianza . $Y_i - Y_j = X_i - X_j$ $Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}$ $Y_i$ $1$

Problema. Se nos da gaussiano independiente rv con media y varianza . Estime la expectativa de . $n$ $\gamma_1,\dots, \gamma_n$ $\mu$ $1$ $\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}$

Respuesta: . $\Theta\left(\frac{1}{\sqrt{\log n}}\right)$

Prueba informal Aquí hay una solución informal a este problema (no es difícil hacerlo formal). Como la respuesta no depende de la media, suponemos que . Deje , donde . Tenemos (para moderadamente grande ), $\mu = 0$ $\bar\Phi(t) = \Pr[\gamma > t]$ $\gamma\sim{\cal N}(0,1)$ $t$

\bar{Φ} (t) \approx \frac{1}{\sqrt{2 π} t} e^{- \frac{1}{2} t^{2}} .

$\bar\Phi(t)\approx \frac{1}{\sqrt{2\pi}t} e^{-\frac{1}{2}t^2}.$

Tenga en cuenta que

$\Phi(\gamma_i)$ se distribuyen de manera uniforme e independiente en , $[0,1]$
$\Phi(\gamma_{\mathrm{max}})$ es el más pequeño entre , $\Phi(\gamma_i)$
$\Phi(\gamma_{\mathrm{sec-max})}$ es el segundo más pequeño entre . $\Phi(\gamma_i)$

Por lo tanto está cerca de y está cerca de (no hay concentración pero si nosotros no' No importa las constantes, estas estimaciones son lo suficientemente buenas; de hecho, incluso son bastante buenas si nos preocupamos por las constantes, pero eso necesita una justificación). Usando la fórmula para , obtenemos que $\Phi(\gamma_{\mathrm{max}})$ $1/n$ $\Phi(\gamma_{\mathrm{max}})$ $2/n$ $\bar\Phi(t)$

2 \approx \bar{Φ} (γ_{s e c - m a x}) / \bar{Φ} (γ_{m a x}) \approx e^{\frac{1}{2} (γ_{m a x}^{2} - γ_{s e c - m a x}^{2})} .

$2\approx \bar\Phi(\gamma_{\mathrm{sec-max}})\left/\bar\Phi(\gamma_{\mathrm{max}})\right. \approx e^{\frac{1}{2}\left(\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2\right)}.$

Así es whp Tenga en cuenta que . Tenemos, $\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2$ $\Theta(1)$ $\gamma_{\mathrm{max}}\approx \gamma_{\mathrm{sec-max}} = \Theta(\sqrt{\log n})$

γ_{m a x} - γ_{s e c - m a x} \approx \frac{Θ (1)}{γ_{m a x} + γ_{s e c - m a x}} \approx \frac{Θ (1)}{\sqrt{\log n}} .

$\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}\approx \frac{\Theta(1)}{\gamma_{\mathrm{max}} + \gamma_{\mathrm{sec-max}}} \approx \frac{\Theta(1)}{\sqrt{\log n}}.$

QED

Obtenemos que

\begin{aligned} E [X_{m a x} - X_{s e c - m a x}] & = E [Y_{m a x} - Y_{s e c - m a x}] \\ = \sqrt{V a r [Y_{i}]} \times E [γ_{m a x} - γ_{s e c - m a x}] = Θ (\sqrt{\frac{m}{n \log n}}) . \end{aligned}

$\begin{align} \mathbb{E}[{X_{\mathrm{max}} - X_{\mathrm{sec-max}}}] &= \mathbb{E}[{Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}}] \\ &= \sqrt{\mathrm{Var}[Y_i]} \times\mathbb{E}[{\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}}] = \Theta\left(\sqrt{\frac{m}{n\log n}}\right). \end{align}$

El mismo argumento pasa cuando tenemos puntajes arbitrarios. Muestra que
$E [X_{m a x} - X_{s e c - m a x}] = c E [X_{m a x} - X_{m i n}] / \log n .$ $\mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{sec-max}}] = c\, \left. \mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{min}}]\right/\log n.$

— Yury
fuente

¡Gracias! Recordaré probar la aproximación gaussiana multivariante la próxima vez.

— Yuval Filmus

Yury, usted escribió "Agreguemos un vector gaussiano con varianza a todo . Obtenemos un vector gaussiano . Ahora cada tiene varianza todos no son correlacionado ... Tenga en cuenta que ". ¿Se puede ampliar en esta parte? ¿Es ? Si las son dependientes y las son independientes (o uniformemente iguales), ¿cómo pueden ser independientes las ? (Parece un buen truco, pero no lo entiendo). Gracias.

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

Y_{i}

$Y_i$

Y_{i} - Y_{j} = X_{i} - X_{j}

$Y_i - Y_j = X_i - X_j$

Z_{i} = Z_{j}

$Z_i = Z_j$

X_{i}

$X_i$

Z_{i}

$Z_i$

Y_{i}

$Y_i$

— Neal Young

@NealYoung, sí, si tenemos variables con correlación negativa en pares y todas las covarianzas son iguales , entonces podemos agregar una única variable aleatoria nueva a todas las modo que Las sumas son independientes. Además, si las variables tienen correlación positiva y nuevamente todas las covarianzas son iguales, entonces podemos restar un solo rv de todas ellas para que todas las diferencias sean independientes; pero ahora no es independiente de sino

X_{1}, \dots, X_{n}

$X_1,\dots,X_n$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

X_{i}

$X_i$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

Z

$Z$

X_{i}

$X_i$

Z = α (X_{1} + \dots + X_{n})

$Z=\alpha (X_1 + \dots+X_n)$ para algunos parámetros de escala .

α

$\alpha$

— Yury

Ah, ya veo. al menos algebraicamente, todo en lo que descansa es la independencia por pares de Z y cada . muy genial.

X_{i}

$X_i$

— Suresh Venkat

Este argumento aparece ahora (con atribución) en un documento de EC'14 : dl.acm.org/citation.cfm?id=2602829 .

— Yuval Filmus

Para su primera pregunta, creo que puede mostrar que whp es Tenga en cuenta que esto es . $X_{\max}-X_{\textrm{sec-max}}$

o (\sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}}) .

$o\left(\sqrt{\frac{m}{n}\frac{\log^2\log n}{\log n}}\right).$

o (\sqrt{m / n})

$o(\sqrt{m/n})$

Compare su experimento aleatorio con la siguiente alternativa: Sea la carga máxima de cualquiera de los primeros cubos. Deje que sea la carga máxima de cualquiera de los últimos cubos. $X_1$ $n/2$ $X_2$ $n/2$

En consideración,es un límite superior en . Además, con probabilidad de al menos la mitad, . Entonces, hablando en términos generales, se distribuye de manera similar a. $|X_1-X_2|$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2| = X_{\max}-X_{\mathrm{sec-max}}$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2|$

Para estudiar, tenga en cuenta que con alta probabilidad se lanzan bolas en los primeros contenedores, y del mismo modo para los últimos contenedores. Entonces, y se distribuyen esencialmente como la carga máxima cuando se lanzan bolas en contenedores. $|X_1-X_2|$ $m/2\pm O(\sqrt m)$ $n/2$ $n/2$ $X_1$ $X_2$ $m' = m/2\pm o(m)$ $n' = n/2$

Esta distribución está bien estudiada y, afortunadamente para este argumento, está fuertemente concentrada alrededor de su media. Por ejemplo, si , entonces con alta probabilidad difiere de su expectativa en la cantidad que se muestra en la parte superior de esta respuesta [ Thm. 1 ] (Nota: este límite superior es, creo, flojo, dada la respuesta de Yuri.) Por lo tanto, con alta probabilidad, y también difieren a lo sumo, y y difieren en a lo mucho esto. $m' \gg n\log^3 n$ $X_1$ $X_1$ $X_2$ $X_{\max}$ $X_{\mathrm{max-sec}}$

Por el contrario, para un límite inferior (algo más débil), si, para cualquier , digamos, , entonces es al menos que (por el límite de la unión ingenua) es al menos Creo que esto debería darle (por ejemplo) la expectativa de dentro de un factor constante. $t$ $\Pr[|X_1-X_2| \ge t] \ge 3/4$ $\Pr[X_{\max}-X_{\textrm{sec-max}} \ge t]$

Pr [| X_{1} - X_{2} | \geq t \land X_{max} - X_{sec-max} = | X_{1} - X_{2} |]

$\Pr\big[|X_1-X_2| \ge t ~\wedge~ X_{\max}-X_{\textrm{sec-max}} = |X_1-X_2|\big]$

1 - (1 / 4) - (1 / 2) = 1 / 4.

$1 - (1/4) - (1/2) = 1/4.$

X_{max} - X_{sec-max}

$X_{\max}-X_{\textrm{sec-max}}$

— Neal Young
fuente

Mirando a Thm. 1, la diferencia con la expectativa es , y no lo que escribió. Eso sigue siendo mucho mejor que .

O (\sqrt{(m / n) \log \log n})

$O(\sqrt{(m/n) \log \log n})$

O (\sqrt{(m / n) \log n})

$O(\sqrt{(m/n) \log n})$

— Yuval Filmus

Por Thm. 1 (su tercer caso), para cualquier , con probabilidad , el máximo en cualquier bin (m bolas en n bins) es Según mis cálculos (usando ), el término se expande a un término absoluto aditivo de¿Qué estoy haciendo mal?

ϵ > 0

$\epsilon>0$

1 - o (1)

$1-o(1)$

\frac{m}{n} + \sqrt{\frac{2 m \log n}{n}} \sqrt{1 - (1 \pm ϵ) \frac{\log \log n}{2 \log n}} .

$\frac{m}{n} +\sqrt{\frac{2m\log n}{n}}\sqrt{1-(1\pm\epsilon) \frac{\log\log n}{2\log n}}.$

\sqrt{1 - δ} = 1 - O (δ)

$\sqrt{1-\delta} = 1 - O(\delta)$

\pm ϵ

$\pm\epsilon$

O (ϵ) \sqrt{\frac{m \log n}{n}} \frac{\log \log n}{\log n} = O (ϵ) \sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}} .

$O(\epsilon) \sqrt{\frac{m\log n}{n}}~\frac{\log\log n}{\log n} ~=~O(\epsilon) \sqrt{\frac{m}{n}~\frac{\log^2\log n}{\log n}}.$

— Neal Young

Ah, supongo que tienes razón. Reste dentro de la raíz cuadrada y así es como obtuve mi figura.

— Yuval Filmus