¿Qué pasa si las probabilidades no son iguales en la "Regla .632"?

Esta pregunta se deriva de esta sobre la "Regla .632". Estoy escribiendo con referencia particular a la respuesta / notación de user603 en la medida en que simplifica las cosas.

Esa respuesta comienza con una muestra de tamaño con sustitución, de elementos distintos en la colección (llamada) que N. La probabilidad de que la muestra es diferente de un elemento en particular de N es entonces $n,$ $n$ $i^{th}$ $s_i$ $m$ $(1 - 1/n).$

En esa respuesta, todos los elementos de N tienen la misma probabilidad de ser dibujados al azar.

Mi pregunta es la siguiente: supongamos, en cambio, que en la pregunta anterior, los elementos a dibujar son tales que normalmente se distribuyen. Es decir, subdividimos la curva normal estándar de $Z = -4$ a $Z = 4$ en (digamos) 100 subintervalos de igual longitud. Cada uno de los 100 elementos en N tiene una probabilidad de ser dibujada que es igual al área subtendida por la curva en su intervalo respectivo.

Mi pensamiento fue el siguiente:

El razonamiento es similar al de la respuesta vinculada, creo. La probabilidad de que $s_i \ne m$ , con $m$ un elemento de N, es $P(s_i \neq m) = (1 - F_i)$ en la que $F_i$ es la probabilidad de sacar $s_i.$

La probabilidad de que un elemento particular m esté en la muestra S de tamaño n es

P (m \in S) = 1 - P (m \notin S) = 1 - \prod_{1}^{n} P (s_{i} \neq m)

$P(m \in S) = 1 - P(m \notin S) = 1 - \prod_1^n P(s_i \neq m)$

= 1 - \prod_{1}^{n} (1 - F_{i}) .

$= 1 - \prod_1^n(1 - F_i).$

Un cálculo parece mostrar que a medida que la longitud de los subintervalos se reduce, la respuesta converge al mismo número que en el primer caso (las probabilidades de todas iguales). $s_i$

Esto parece contradictorio (para mí) porque la construcción parece incluir elementos de N que son raros, por lo que esperaría un número menor que .632.

Además, si esto es correcto, supongo que tendríamos

lim_{n \to \infty} \prod_{1}^{n} (1 - F_{i}) = lim (1 - 1 / n)^{n} = 1 / e,

$\lim_{n \to \infty} \prod_1^n(1 - F_i) =\lim (1- 1/n)^n = 1/e,$

que todavía no sé si es verdadero o falso.

Editar: si es cierto, probablemente generalizaría algunos.

Gracias por cualquier idea.

probability sampling

— daniel
fuente

Acabo de preguntar sobre la última ecuación en Matemáticas SE (pregunta 791114) porque también estoy interesado en cómo se generaliza, si es que lo hace.

— Daniel

... y la respuesta corta es que la última igualdad es correcta para archivos PDF con buen comportamiento, por lo que la respuesta a la pregunta es que la regla .632 es válida para una amplia variedad de distribuciones subyacentes.

— Daniel

¿Puedo levantar la respuesta de otra persona de otro sitio y publicarla aquí como mía? Por eso publiqué el breve comentario. Tal vez hay una forma aceptada de hacer esto, si es así, estoy dispuesto.

— daniel

por supuesto que puedes, solo menciona la fuente en algún momento :)

— Firebug

@Firebug: ¿puedes señalar una instancia en la que esto se haga para que yo pueda ver a qué te refieres? Gracias.

— daniel

La pregunta se refiere al comportamiento limitante de

\begin{matrix} (1) & = 1 - \prod_{i = 1}^{n} (1 - F_{i}) \end{matrix}

$= 1 - \prod_{i=1}^n(1 - F_i)\tag{1}$

a medida que crece y el contrae uniformemente de tal manera que (a) todos son no negativos y (b) suman la unidad. (Estos se derivan de la construcción de y los axiomas de probabilidad). $n$ $F_i$ $F_i$

Por definición, este producto es el exponencial de su logaritmo:

\prod_{i = 1}^{n} (1 - F_{i}) = \exp (\sum_{i = 1}^{n} \log (1 - F_{i})) .

$\prod_{i=1}^n(1 - F_i) = \exp\left(\sum_{i=1}^n\log\left(1-F_i\right)\right).$

El teorema de Taylor (con la forma Lagrange del resto) , aplicado a , establece que $\log$

\log (1 - F_{i}) = - F_{i} - \frac{1}{2} ϕ_{i}^{2} \geq - F_{i} - \frac{1}{2} F_{i}^{2}

$\log\left(1-F_i\right) = -F_i - \frac{1}{2}\phi_i^2 \ge -F_i - \frac{1}{2}F_i^2$

para algunos en el intervalo . En otras palabras, estos logaritmos equivalen a hasta términos que son a lo sumo veces . Pero cuando es lo suficientemente grande como para asegurar que todos los son más pequeños que algunos dados (una condición asegurada por la contracción uniforme de ), entonces (b) implica y por lo tanto $\phi_i$ $[0, F_i]$ $-F_i$ $1/2$ $F_i^2$ $n$ $F_i$ $\epsilon\gt 0$ $F_i$ $n\epsilon \gt \sum F_i = 1$

\sum_{i = 1}^{n} F_{i}^{2} \leq \sum_{i = 1}^{n} ϵ^{2} < \sum_{i = 1}^{n} {(\frac{1}{n})}^{2} = \frac{1}{n} .

$\sum_{i=1}^n F_i^2 \le \sum_{i=1}^n \epsilon^2 \lt \sum_{i=1}^n \left(\frac{1}{n}\right)^2 =\frac{1}{n}.$

Por consiguiente

- 1 = - \sum_{i = 1}^{n} F_{i} \geq \sum_{i = 1}^{n} \log (1 - F_{i}) \geq - \sum_{i = 1}^{n} F_{i} - \frac{1}{2} \frac{1}{n} = - 1 - \frac{1}{2 n}

$-1 = -\sum_{i=1}^n F_i \ge \sum_{i=1}^n\log\left(1-F_i\right) \ge -\sum_{i=1}^n F_i - \frac{1}{2}\frac{1}{n} = -1 - \frac{1}{2n}$

exprime el logaritmo entre dos secuencias que convergen en . Como es continuo, el producto converge al exponencial de este límite, . Por consiguiente $-1$ $\exp$ $\prod_{i=1}^n(1 - F_i)$ $\exp(-1)$

lim_{n \to \infty} (1 - \prod_{i = 1}^{n} (1 - F_{i})) = 1 - \exp (- 1) \approx 0.632,

$\lim_{n\to\infty} \left(1 - \prod_{i=1}^n(1 - F_i)\right) = 1 - \exp(-1) \approx 0.632,$

QED .

Una mirada más cercana a este análisis establece que el error en esta aproximación (que siempre será un límite inferior ) no es mayor en tamaño que Por ejemplo, la división de una distribución Normal estándar en cortes entre y produce un máximo cerca del modo , donde será aproximadamente igual al área de un rectángulo allí, . El límite anterior establece que el valor de la fórmula estará dentro de de su valor límite. El error real es un orden de magnitud menor,

(\exp ((n / 2) max (F_{i}^{2})) - 1) \exp (- 1) .

$\left(\exp\left((n/2)\max(F_i^2)\right) - 1\right)\exp(-1).$

n = 400

$n=400$

- 4

$-4$

4

$4$

F_{i}

$F_i$

0

$0$

\exp (- 1 / 2) / 50 \approx 0.012

$\exp(-1/2)/50 \approx 0.012$

(1)

$(1)$

0.011

$0.011$

0.001041

$0.001041$ . Aquí está el cálculo en R( en el que podemos confiar porque ninguno de los es realmente pequeño en relación con ):

f_{i}

$f_i$

1

$1$

f <- diff(pnorm(seq(-4, 4, length.out=401))) # The normal "slices".
f <- f / sum(f)                              # Make them sum to unity.
exp(-1) - prod(1 - f)                        # Compute the error.

De hecho, 1 - prod(1-f)es mientras que es . $0.6331615\ldots$ $1-\exp(-1)$ $0.6321206\ldots$

— whuber
fuente

El análisis de errores es un aspecto muy útil de esta respuesta.

— Daniel