Principio Minimax de Yao sobre algoritmos de Monte Carlo

$P$ $\mathcal{X}$ $\mathcal{A}$ $P$ $\mathcal{D}$ $\mathcal{R}$ $\mathcal{A}$

min_{A \in A} E c o s t (A, D) \leq max_{x \in X} E c o s t (R, x) for all D and R .

$\min_{A\in\mathcal{A}}\quad\mathbb{E} cost(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost(\mathcal{R},x) \quad\quad\text{for all $\mathcal{D}$ and $\mathcal{R}$}.$

El principio de Yao se ocupa principalmente de los algoritmos de Las Vegas únicamente, pero se puede generalizar a los algoritmos de Monte Carlo de la siguiente manera. donde denota el costo de los algoritmos de Monte Carlo que tienen un error de probabilidad como máximo .

\frac{1}{2} min_{A \in A} E c o s t_{2 ϵ} (A, D) \leq max_{x \in X} E c o s t_{ϵ} (R, x) for all D, R and ϵ \in [0, 1 / 2]

$\frac12 \min_{A\in\mathcal{A}}\quad\mathbb{E} cost_{2\epsilon}(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost_{\epsilon}(\mathcal{R},x)\quad\quad\text{for all $\mathcal{D}$, $\mathcal{R}$ and $\epsilon\in [0,1/2]$}$

c o s t_{ϵ} (\cdot, \cdot)

$cost_\epsilon(\cdot,\cdot)$

ϵ

$\epsilon$

En el artículo original de Yao , la relación para los algoritmos de Monte Carlo se da en el Teorema 3 sin pruebas. ¿Alguna pista para probarlo?

randomized-algorithms

— Federico Magallanez
fuente

Esto es solo un comentario extenso sobre la respuesta de Marcos, usando su notación. No puedo seguir los detalles de su argumento, y el siguiente es bastante corto y fácil.

Al promediar,

\sum_{A} q (A) \sum_{x} d (x) ϵ (A, x) = \sum_{x} d (x) \sum_{A} q (A) ϵ (A, x) \leq λ .

$\sum_A{q(A)\sum_x{d(x)\epsilon(A, x)}} = \sum_x{d(x)\sum_A{q(A)\epsilon(A, x)}} \leq \lambda.$

El hecho anterior y la desigualdad de Markov implican . $\sum_{A \in \beta(2\lambda)}{q(A)} \geq 1/2$

Entonces obtenemos:

\begin{aligned} max_{x} \sum_{A} q (A) r (A, x) & \geq \sum_{x} d (x) \sum_{A} q (A) r (A, x) \\ = \sum_{A} q (A) \sum_{x} d (x) r (A, x) \\ \geq \sum_{A \in β (2 λ)} q (A) \sum_{x} d (x) r (A, x) \\ \geq (\sum_{A \in β (2 λ)} q (A)) min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \\ \geq \frac{1}{2} min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \end{aligned}

$\begin{align*} \max_x \sum_A{q(A)r(A,x)} &\geq \sum_x{d(x)\sum_A{q(A)r(A, x)}}\\ &= \sum_A{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \sum_{A \in \beta(2\lambda)}{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \left(\sum_{A \in \beta(2\lambda)}{q(A)}\right) \min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}}\\ &\geq \frac{1}{2}\min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}} \end{align*}$

— Sasho Nikolov
fuente

Lo intentaré con esto. Voy a usar la notación original de Yao. De esta manera será más fácil contrastar con su trabajo y sus definiciones.

Sea un conjunto finito de entradas, y sea un conjunto finito de algoritmos deterministas que pueden fallar al dar una respuesta correcta para algunas entradas. Supongamos también si da la respuesta correcta para , y caso contrario. Denote también por el número de consultas realizadas por en la entrada , o de manera equivalente, la profundidad del árbol de decisión de $\mathcal{I}$ $\mathcal{A}_0$ $\epsilon(A,x)=0$ $A$ $x$ $\epsilon(A,x)=1$ $r(A,x)$ $A$ $x$ $A$

Costo promedio: Dada una distribución de probabilidad en , el costo promedio de un algoritmo es . $d$ $\mathcal{I}$ $A\in \mathcal{A}_0$ $C(A,d)=\sum_{x\in\mathcal{I}} d(x)\cdot r(A,x)$

Complejidad de distribución: Let . Para cualquier distribución en las entradas, dejemos que sea el subconjunto de dado por . La complejidad distributiva con error para un problema computacional se define como . $\lambda\in[0,1]$ $d$ $\beta(\lambda)$ $\mathcal{A}_0$ $\beta(\lambda)=\{A : A\in \mathcal{A}_0, \sum_{x\in\mathcal{I}} d(x)\cdot \epsilon(A,x)\leq \lambda\}$ $\lambda$ $P$ $F_{1,\lambda}(P)=\max_{d} \min_{A\in \beta(\lambda)} C(A,d)$

$\lambda$ -tolerancia: una distribución en la familia es -tolerante si . $q$ $\mathcal{A}_0$ $\lambda$ $\max_{x\in \mathcal{I}} \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x)\leq \lambda$

Costo esperado: Para un algoritmo aleatorio , sea una distribución de probabilidad que sea -tolerante en . El costo esperado de para una entrada dada es . $R$ $q$ $\lambda$ $\mathcal{A}_0$ $R$ $x$ $E(R,x)=\sum_{A\in \mathcal{A}_0} q(A)\cdot r(A,x)$

Complejidad aleatoria: Let . La complejidad aleatoria con error es . $\lambda\in[0,1]$ $\lambda$ $F_{2,\lambda}=\min_R \max_{x\in\mathcal{I}} E(R,x)$

Ahora estamos listos para entrar en el negocio. Lo que queremos probar es una distribución en las entradas y un algoritmo aleatorio (es decir, una distribución en ) $d$ $R$ $q$ $\mathcal{A}_0$

Principio Minimax de Yao para Algoritmos de Montecarlo para .
$max_{x \in I} E (R, x) \geq \frac{1}{2} min_{A \in β (2 λ)} C (A, d)$ $\begin{equation}\max_{x\in\mathcal{I}} E(R,x)\geq \frac{1}{2}\min_{A\in \beta(2\lambda)} C(A,d) \end{equation}$ $\lambda\in[0,1/2]$

Seguiré un enfoque dado por Fich, Meyer auf der Heide, Ragde y Wigderson (ver Lema 4). Su enfoque no proporciona una caracterización para los algoritmos de Las Vegas (solo el límite inferior), pero es suficiente para nuestros propósitos. Según su prueba, es fácil ver que para cualquier y $\mathcal{A}_0$ $\mathcal{I}$

Reclamación 1. . $\max_{x\in \mathcal{I}} E(R,x)\geq \min_{A\in \mathcal{A}_0} C(A,d)$

Para obtener los números correctos allí, haremos algo similar. Dado que la distribución de probabilidad dada por el algoritmo aleatorio es -tolerante en tenemos que Si reemplazamos la familia con $q$ $R$ $\lambda$ $\mathcal{A}_0$

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in A_{0}} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in A_{0}} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in A_{0}} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} . \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \mathcal{A}_0} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \mathcal{A}_0} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \mathcal{A}_0}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{align*}$

A_{0}

$\mathcal{A}_0$

β (2 λ)

$\beta(2\lambda)$ vemos eso

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq max_{x \in I} {\sum_{A \in β (2 λ)} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in β (2 λ)} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in β (2 λ)} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in β (2 λ)} {\frac{1}{2} \sum_{x \in I} d (x) \cdot ϵ (A, x)}, \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\beta(2\lambda)} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \beta(2\lambda)} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \beta(2\lambda)} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \beta(2\lambda)}\left\{ \frac{1}{2}\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}, \end{align*}$

donde sigue la segunda desigualdad porque , y la última desigualdad viene dada por la definición de donde la suma dividida por 2 no puede ser mayor que . Por lo tanto, $\beta(2\lambda) \subseteq \mathcal{A}_0$ $\beta(2\lambda)$ $\lambda$

max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \geq \frac{1}{2} min_{A \in β (2 λ)} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} .

$\begin{equation}\max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\geq\frac{1}{2} \min_{A\in \beta(2\lambda)}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{equation}$

Al observar que asigna a y asigna a y la Reclamación 1 anterior, ahora podemos reemplazar con seguridad la función en la desigualdad anterior por para obtener La desigualdad deseada. $\epsilon$ $\{0,1\}$ $r$ $\mathbb{N}$ $\epsilon$ $r(A,x)$

— Marcos Villagra
fuente

¿Hay una breve explicación de dónde viene el factor 2?

— Robin Kothari

en resumen, proviene de la definición de . La suma en la definición dividida por 2 es como máximo .

β (2 λ)

$\beta(2\lambda)$

λ

$\lambda$

— Marcos Villagra

Algo me parece extraño. por definición, entonces, ¿por qué el min?

max_{A \in β (2 λ))} {\frac{1}{2} \sum_{x \in I} d (x), ϵ (A, x)} \leq λ

$\max_{A \in \beta(2\lambda))} \left\{\frac{1}{2} \sum_{x \in \mathcal{I}}{d(x), \epsilon(A,x)}\right\} \leq \lambda$

— Sasho Nikolov

Y no entiendo la última oración. ¿Cómo hizo un argumento completo sobre y luego lo reemplazó con ?

ϵ

$\epsilon$

r

$r$

— Sasho Nikolov

con respecto a su primera pregunta, agregué más detalles.

— Marcos Villagra