Prueba rigurosa de validez de la suposición

El teorema maestro es una herramienta hermosa para resolver ciertos tipos de recurrencias . Sin embargo, a menudo pasamos por alto una parte integral al aplicarlo. Por ejemplo, durante el análisis de Mergesort pasamos felizmente de

$\qquad T(n) = T\left(\left\lfloor \frac{n}{2} \right\rfloor\right) + T\left(\left\lceil \frac{n}{2} \right\rceil\right) + f(n)$

$\qquad T'(n) = 2 T'\left(\frac{n}{2}\right) + f(n)$

considerando solo . Nos aseguramos de que este paso es válido, es decir, , porque comporta "bien". En general, suponemos que para el denominador común. $n=2^k$ $T \in \Theta(T')$ $T$ $n=b^k$ $b$

Es fácil construir recurrencias que no permiten esta simplificación usando vicioso . Por ejemplo, la recurrencia anterior para / con $f$ $T\,$ $\,T'$

$\qquad f(n) = \begin{cases} 1 &, n=2^k \\ n &, \text{else} \end{cases}$

producirá mediante el uso del teorema maestro de la manera habitual, pero hay claramente una subsecuencia que crece como . Vea aquí para otro ejemplo más artificial. $\Theta(n)$ $\Theta(n \log n)$

¿Cómo podemos hacer esto "bien" riguroso? Estoy bastante seguro de que la monotonicidad es suficiente, pero ni siquiera la simple recurrencia de Mergesort es monótona; Hay un componente periódico (que se domina asintóticamente). ¿Es suficiente investigar $f$ , y cuáles son las condiciones necesarias y suficientes en $f$ que aseguran el funcionamiento del teorema maestro?

— Rafael
fuente

Otra versión de los mismos resultados es el teorema de Akra-Bazzi "Sobre la solución de ecuaciones de recurrencia lineal", Optimización computacional y aplicaciones, 10 (2), 195-210 (1998), o Drmota y Szpankowski "Un teorema maestro para la división discreta y conquistar recurrencias ", SODA'11 < dl.acm.org/citation.cfm?id=2133036.2133064 >.

— vonbrand

Aquí hay un enlace al documento anterior, que no está detrás de un muro de pago.

— Paresh

IIRC esto se discute en CLRS capítulo 4.

— Kaveh

@Kaveh Gracias por el puntero. En su mayor parte, lo llaman "descuido tolerable"; esto está bien en su contexto, porque suponen que solo deriva una hipótesis, que luego se probará que es correcta por inducción. Mencionan los peligros (4.6). En 4.6.2 dan una prueba, pero es de alto nivel y no dicen explícitamente qué restricciones deben establecerse en

Por lo tanto, parece ser algo así como "

tal que las matemáticas pasan", lo que creo que principalmente requiere que

tenga una "buena" clase

T

$T$

T

$T$

f

$f$

Θ

$\Theta$

— Raphael

En general, cuando no tiene tamaños similares, puede usar el método de Akra-Bazzi, que es la generalización del teorema maestro, seguro de cómo cambiar una función específica a algo que funciona en este teorema necesita un pequeño truco, y para algo como la fusión, esto es lo que normalmente usa la gente para comprobar la complejidad del tiempo.

A lo largo de esta respuesta, suponemos y no son negativos. Nuestra prueba funciona siempre que para algunos monótonos . Esto incluye su ejemplo de Mergesort, en el que y cualquier función que tenga una tasa de crecimiento polinomial (o incluso ). $f$ $T$ $f = \Theta(g)$ $g$ $f=\Theta(n)$ $\Theta(n^a \log^b n)$

Consideremos primero el caso de que es monótono no decreciente (relajaremos esta suposición más adelante). Nos concentramos en la recurrencia de su muestra Esta recurrencia necesita dos casos base, y . Suponemos que $f$

T (n) = T (⌊ n / 2 ⌋) + T (⌈ n / 2 ⌉) + f (n) .

$T(n) = T(\lfloor n/2 \rfloor) + T(\lceil n/2 \rceil) + f(n).$

T (0)

$T(0)$

T (1)

$T(1)$

, que también nos relajamos más adelante.

T (0) \leq T (1)

$T(0) \leq T(1)$

Afirmo que es monótono no decreciente. Probamos por inducción completa que . Esto se da para , así que sea . Tenemos $T(n)$ $T(n+1) \geq T(n)$ $n = 0$ $n \geq 1$ Esto implica que Entonces si

\begin{aligned} T (n + 1) & = T (⌊ (n + 1) / 2 ⌋) + T (⌈ (n + 1) / 2 ⌉) + f (n + 1) \\ \geq T (⌊ n / 2 ⌋) + T (⌈ n / 2 ⌉) + f (n) = T (n) . \end{aligned}

$\begin{align*} T(n+1) &= T(\lfloor (n+1)/2 \rfloor) + T(\lceil (n+1)/2 \rceil) + f(n+1) \\ &\geq T(\lfloor n/2 \rfloor) + T(\lceil n/2 \rceil) + f(n) = T(n). \end{align*}$

T (2^{⌊ \log_{2} n ⌋}) \leq T (n) \leq T (2^{⌈ \log_{2} n ⌋}) .

$T(2^{\lfloor \log_2 n \rfloor}) \leq T(n) \leq T(2^{\lceil \log_2 n \rfloor}).$

, hemos terminado. Este es siempre el caso si la solución para las potencias de dos es de la forma

T (2^{m}) = Θ (T (2^{m + 1}))

$T(2^m) = \Theta(T(2^{m+1}))$

T (n) = Θ (n^{a} \log^{b} n)

$T(n) = \Theta(n^a \log^b n)$

Ahora relajemos la suposición de que . Considere una nueva recurrencia definida exactamente de la misma manera, solo . Podemos demostrar por inducción que $T(0) \leq T(1)$ $T'$ $T'(0) = T'(1) = \min(T(0),T(1))$ $T'(n) \leq T(n)$ . Del mismo modo, podemos definir una nueva recurrencia satisfactoria , y luego . Invocando el teorema del Maestro, vemos que y $T''$ $T''(0) = T''(1) = \max(T(0),T(1))$ $T(n) \leq T''(n)$ $T'=\Theta(h)$ para lamismafunción , y entonces también. $T''=\Theta(h)$ $h$ $T = \Theta(h)$

Ahora relajemos la suposición de que es monótono. Suponga que para alguna función monótona . Por lo tanto para algunos y suficientemente grande. Suponemos por simplicidad que ; El caso general se puede manejar como en el párrafo anterior. Nuevamente definimos dos recurrencias $f$ $f = \Theta(g)$ $g$ $cg(n) \leq f(n) \leq Cg(n)$ $c,C>0$ $n$ $n=0$ reemplazando con (respectivamente). Una vez más, el teorema del Maestro dará el mismo resultado (hasta múltiplos constantes), que también es idéntico (hasta múltiplos constantes) a lo que obtendríamos resolviendo la recurrencia original solo en potencias de dos. $T',T''$ $f$ $cg,Cg$

— Yuval Filmus
fuente

Finalmente pude leer esto más de cerca. ¡Genial gracias! Pensé que lo notaría para futuros lectores (porque me tropecé con eso):

no es una restricción, ya que solo es falso para el

superpolinomial y el El teorema maestro no se aplica a tal.

T (2^{m}) \in Θ (T (2^{m + 1}))

$T(2^m) \in \Theta(T(2^{m+1}))$

T

$T$

— Raphael

Intenté escribir su prueba con más detalle y me quedé atascado probando su última oración, "que también es idéntica (...) a lo que obtendríamos resolviendo la recurrencia original solo en potencias de dos". En particular, tenemos que demostrar que terminamos en el mismo caso del teorema de Master para

. Esto no es un problema para los casos 1 y 2, pero no puedo mostrar la existencia de

para el caso 3 (véase la versión en CLRS, p94 en la 3ª edición). ¿Pensaste en eso o trabajaste con una versión similar a la de Wikipedia ?

c g

$cg$

f

$f$

C g

$Cg$

c < 1

$c < 1$

— Raphael

Este es un tecnicismo. Si

entonces el problema desaparece, ver por ejemplo users.encs.concordia.ca/~chvatal/notes/master.pdf . La función

satisfará automáticamente las condiciones. Me imagino que lo mismo funciona para

y así sucesivamente. Alternativamente, simplemente establezca esta condición directamente en

lugar de en

: debe existir alguna

"regular" que satisfaga

f = Θ (n^{α})

$f = \Theta(n^\alpha)$

g

$g$

f = Θ (n^{α} \log^{β} n)

$f = \Theta(n^\alpha \log^\beta n)$

g

$g$

f

$f$

g

$g$

f = Θ (g)

$f = \Theta(g)$

— Yuval Filmus

g

$g$

f : n \mapsto 2^{n}

$f : n \mapsto 2^n$

g

$g$

c g

$cg$

C g

$Cg$

Sigo pensando que es un tecnicismo. La condición que le preocupa es una condición técnica. Para la mayoría de las funciones que aparecen en la práctica, la condición se mantendrá. Estás preguntando por la condición más general bajo la cual pasa el bosquejo de prueba anterior. Esa es una pregunta interesante que soy demasiado vago para responder.

— Yuval Filmus