Algoritmo de precisión arbitraria de raíz cuadrada entera?

¿Hay algún algoritmo subcuadrático conocido para calcular el piso de la raíz cuadrada de un nentero de bits?

El algoritmo ingenuo sería algo así como

def sqrt(x):
    r = 0
    i = x.bit_length() // 2
    while i >= 0:
        inc = (r << (i+1)) + (1 << (i*2))
        if inc <= x:
            x -= inc
            r += 1 << i
        i -= 1
    return r

Esto requiere O(n)iteraciones, cada una con adiciones que son O(n)tiempo, por lo que es O(n^2)tiempo en general. ¿Hay algo más rápido? Sé que para el caso de la multiplicación hay algoritmos especiales que funcionan mejor que el tiempo cuadrático, pero no puedo encontrar nada para las raíces cuadradas.

algorithms numerical-algorithms

— Antimonio
fuente

Mi respuesta a algo relacionado podría ayudar a cs.stackexchange.com/a/37338/12052 . El único problema es que, una parte de la ecuación necesaria que necesitarías encontrar empíricamente para ajustar su precisión.

— Francesco Gramano

@FrancescoGramano: Lo siento, no creo que eso ayude.

— Aryabhata

por cierto, ¿es este requisito subcuadrático parte de un problema mayor? Porque la diferencia entre el cuadrático simple y el subcuadrático complicado podría no ser tan grande en la práctica. ¿O es solo de interés teórico?

— Aryabhata

@Aryabhata Lo siento, no vi tu comentario antes. No, no es parte de un problema mayor, solo curiosidad.

— Antimonio

Respuestas:

Puede usar el método de Newton o cualquiera de varios otros métodos para encontrar aproximaciones a las raíces del polinomio . $p(x) = x^2 -c$

La tasa de convergencia para el método de Newton será cuadrática, lo que significa que el número de bits correctos se duplica en cada iteración. Esto significa que son suficientes iteraciones del método de Newton. $O(\lg n)$

Cada iteración del método de Newton calcula

x_{j + 1} = x_{j} - (x_{j}^{2} - c) / (2 x_{j}) = 0.5 x_{j} + \frac{c}{2 x_{j}} .

$x_{j+1} = x_j - (x_j^2 -c)/(2x_j) = 0.5 x_j + \frac{c}{2x_j}.$

La complejidad de bits de la multiplicación es , para multiplicar dos enteros de bits (ignorando los factores ). La complejidad de bits para la división (a bits de precisión) es la misma. Por lo tanto, cada iteración se puede calcular en operaciones . Multiplicando por iteraciones, encontramos que el tiempo de ejecución general para calcular la raíz cuadrada con bits de precisión es . Esto es subcuadrático. $\stackrel{~}{O}(b \lg b)$ $b$ $\lg \lg b$ $b$ $\stackrel{~}{O}(n \lg n)$ $O(\lg n)$ $n$ $\stackrel{~}{O}(n (\lg n)^2)$

Creo que un análisis más cuidadoso muestra que esto se puede mejorar al tiempo de ejecución de (al tener en cuenta que solo necesitamos conocer cada con una de aproximadamente bits, en lugar de bits de precisión). Sin embargo, incluso el análisis más básico ya muestra un tiempo de ejecución que es claramente subcuadrático. $\stackrel{~}{O}(n \lg n)$ $x_j$ $j$ $n$

— DW
fuente

En binario, uno también tiene una gran conjetura inicial usando la identidad . En lugar de calcular el registro, se puede aproximar como el número de dígitos en

. Por ejemplo,

x^{1 / 2} = 2^{1 / 2 \log_{2} x}

$x^{1/2} = 2^{1/2 \log_2 x}$

\log_{2} x

$\log_2 x$

x

$x$

\log_{2} 101011 \approx 6

$\log_2 101011 \approx 6$

— Nick Alger

@DW: ¿Pero no estamos buscando una raíz cuadrada entera? Si realiza la iteración del método de newton utilizando solo aritmética de enteros, entonces necesitamos alguna justificación adicional para la afirmación

, ¿no? De lo contrario, ya estamos asumiendo una precisión suficientemente grande ... Perdón si me falta algo obvio.

O (\log n)

$O(\log n)$

— Aryabhata

@DW:

$\;\;\;$ "La tasa de convergencia para el método de Newton" no será cuadrática si

, y no sé qué sucede con los valores de

que no son reales no negativos.

c = 0

$c\hspace{-0.04 in}=\hspace{-0.04 in}0$

c

$c$

$\:$ Su estimación de la complejidad de bits de la multiplicación es más estricta de lo que sugiere su siguiente comentario . Además, "necesitamos conocer cada dentro de" "bits de precisión".

$\:$

x_{j}

$x_j$

2^{j}

$2^{\hspace{.02 in}j}$

$\;\;\;\;\;\;\;$

@Aryabhata:

$\;\;\;$ No estamos "buscando una raíz cuadrada entera"; estamos buscando "el piso de la raíz cuadrada".

$\:$ Tiene razón sobre el problema de la aritmética de enteros, aunque las mismas complejidades de bits se mantienen para las operaciones de punto flotante.

$\;\;\;\;\;\;\;$

@RickyDemer, sí,

es un caso especial, porque entonces la raíz de

tiene multiplicidad 2, pero cuando , la raíz tiene multiplicidad 1 lo que el método de Newton no tiene convergencia cuadrática. Supongo que nadie usaría el método de Newton para calcular la raíz cuadrada de (porque la raíz cuadrada de cero es obviamente cero). Entonces, ¿qué estás tratando de decir? ¿Es su comentario un comentario trivial que se aborda agregando algo a mi respuesta que dice "caso especial la raíz cuadrada de cero", o hay algo más profundo que me estoy perdiendo?

c = 0

$c=0$

p (x)

$p(x)$

c > 0

$c>0$

c = 0

$c=0$

— DW

Uno de los problemas con el método de Newton es que requiere una operación de división en cada iteración, que es la operación entera básica más lenta.

Sin embargo, el método de Newton para la raíz cuadrada recíproca no. Si es el número para el que desea encontrar , repita: $x$ $\frac{1}{\sqrt x}$

r_{i + 1} = \frac{1}{2} r_{i} (3 - x r_{i}^{2})

$r_{i+1} = \frac{1}{2} r_i (3 - x r_i^2)$

Esto a menudo se expresa como:

w_{i} = r_{i}^{2}

$w_i = r_i^2$

d_{i} = 1 - w_{i} x

$d_i = 1 - w_i x$

r_{i + 1} = r_{i} + \frac{r_{i} d_{i}}{2}

$r_{i+1} = r_i + \frac{r_i d_i}{2}$

Eso son tres operaciones de multiplicación. La división por dos se puede implementar como un desplazamiento a la derecha.

Ahora el problema es que $r$ no es un número entero. Sin embargo, puede manipularlo como tal mediante la implementación de punto flotante manualmente, y haciendo un montón de operaciones de desplazamiento para compensar cuando sea apropiado.

Primero, cambiemos la escala de : $x$

x^{'} = 2^{- 2 e} x

$x' = 2^{-2e} x$

donde nos gustaría que sea mayor que, pero cercano a, . Si ejecutamos el algoritmo anterior en lugar de , encontramos . Entonces, . $x'$ $1$ $x'$ $x$ $r = \frac{1}{\sqrt x'}$ $\sqrt{x} = 2^e r x'$

Ahora dividamos en una mantisa y exponente: $r$

r_{i} = 2^{- e_{i}} r_{i}^{'}

$r_i = 2^{-e_i} r'_i$

donde es un número entero. Intuitivamente, representa la precisión de la respuesta. $r'_i$ $e_i$

Sabemos que el método de Newton duplica aproximadamente el número de dígitos significativos precisos. Entonces podemos elegir:

e_{i + 1} = 2 e_{i}

$e_{i+1} = 2e_i$

Con un poco de manipulación, encontramos:

e_{i + 1} = 2 e_{i}

$e_{i+1} = 2e_i$

w_{i} = {r_{i}^{'}}^{2}

$w_i = {r'_i}^2$

x_{i}^{'} = \frac{x}{2^{2 e - e_{i + 1}}}

$x'_i = \frac{x}{2^{2e - e_{i+1}}}$

d_{i} = 2^{e_{i + 1}} - \frac{w_{i}^{'} x_{i}^{'}}{2^{e_{i + 1}}}

$d_i = 2^{e_{i+1}} - \frac{w_i' x'_i}{2^{e_{i+1}}}$

r_{i + 1}^{'} = 2^{e_{i}} r_{i}^{'} - \frac{r_{i}^{'} d_{i}}{2^{e_{i} + 1}}

$r'_{i+1} = 2^{e_i} r'_i - \frac{r'_i d_i}{2^{e_i + 1}}$

En cada iteración:

\sqrt{x} \approx \frac{r_{i}^{'} x}{2^{e + e_{i}}}

$\sqrt{x} \approx \frac{r'_i x}{2^{e + e_i}}$

Como ejemplo, intentemos calcular la raíz cuadrada de . Sabemos que la respuesta es . La raíz cuadrada recíproca es , por lo que estableceremos (esta es la escala del problema) y para nuestra conjetura inicial elegiremos y . (Es decir, elegimos para nuestra estimación inicial de ). $x = 2^{63}$ $2^{31}\sqrt{2}$ $\frac{1}{\sqrt{2}} 2^{-31}$ $e = 31$ $r'_0 = 3$ $e_0 = 2$ $\frac{3}{4}$ $\frac{1}{\sqrt{2}}$

Entonces:

e_{1} = 4, r_{1}^{'} = 11

$e_1 = 4, r'_1 = 11$

e_{2} = 8, r_{2}^{'} = 180

$e_2 = 8, r'_2 = 180$

e_{3} = 16, r_{3}^{'} = 46338

$e_3 = 16, r'_3 = 46338$

e_{4} = 32, r_{4}^{'} = 3037000481

$e_4 = 32, r'_4 = 3037000481$

Podemos determinar cuándo dejar de iterar comparando con ; Si he calculado correctamente, debería ser lo suficientemente bueno. Sin embargo, nos detendremos aquí y encontraremos: $e_i$ $e$ $e_i > 2e$

\sqrt{2^{63}} \approx \frac{3037000481 \times 2^{63}}{2^{31 + 32}} = 3037000481

$\sqrt{2^{63}} \approx \frac{3037000481 \times 2^{63}}{2^{31+32}} = 3037000481$

La raíz cuadrada entera correcta es , por lo que estamos bastante cerca. Podríamos hacer otra iteración o una iteración final optimizada que no duplique . Los detalles se dejan como ejercicio. $3037000499$ $e_i$

Para analizar la complejidad de este método, tenga en cuenta que multiplicar dos enteros de bits requiere operaciones . Sin embargo, hemos organizado las cosas para que . Por lo que la multiplicación para calcular multiplica dos números de bits para producir un número de bits, y los otros dos multiplicaciones multiplicar dos números -bit para producir una -número de bit. $b$ $O(b \log b)$ $r'_i < 2^{e_i}$ $w_i$ $e_i$ $e_{i+1}$ $e_{i+1}$ $2e_{i+1}$

En cada caso, el número de operaciones por iteración es , y se requieren iteraciones . La multiplicación final está en el orden de las operaciones . Entonces, la complejidad general son las operaciones , que es subcuadrática en el número de bits en . Eso cumple todos los requisitos. $O(e_i \log e_i)$ $O(\log e)$ $O(2e \log 2e)$ $O(e \log^2 e)$ $x$

Sin embargo, este análisis esconde un principio importante que todos los que trabajan con enteros grandes deben tener en cuenta: debido a que la multiplicación es superlineal en el número de bits, cualquier operación de multiplicación solo debe realizarse en enteros que tengan aproximadamente la magnitud de la precisión actual (y , Podría agregar, deberías intentar multiplicar números que tengan un orden de magnitud similar). Usar enteros más grandes que eso es una pérdida de esfuerzo. Los factores constantes importan, y para los enteros grandes, importan mucho.

Como observación final, dos de las multiplicaciones son de la forma . Claramente es un desperdicio calcular todos los bits de solo para tirar de ellos con un desplazamiento a la derecha. La implementación de un método de multiplicación inteligente que tenga esto en cuenta también se deja como un ejercicio. $\frac{ab}{2^c}$ $ab$ $c$

— Seudónimo
fuente

Esto es genial. Sin embargo, un comentario: ¿no es la complejidad de bits de la división asintóticamente aproximadamente la misma que la complejidad de bits de la multiplicación? Entonces, estás hablando de algo que proporciona una mejora constante del factor, no una mejora asintótica, ¿verdad? Eso no estaba del todo claro por su respuesta.

— DW

Usted dice que la multiplicación de dos números enteros -bit toma operaciones de bits. Creo que la respuesta correcta es algo como (¿verdad?). Es posible que desee indicar que está ignorando los factores de poli-log-log (por ejemplo, colocando una tilde sobre su gran O, o algo así).

b

$b$

O (b \lg b)

$O(b \lg b)$

O (b \lg b (\lg l g b)^{O (1)})

$O(b \lg b (\lg lg b)^{O(1)})$

— DW

@DW:No, dice que "multiplicar dos enteros de bits requiere operaciones ". La palabra "bit" solo aparece una vez en eso; de lo contrario ya lo habría señalado.

$\;\;\;$

b

$b$

O (b \log b)

$O(b\log b)$

$\:$

$\;\;\;\;\;\;\;$

Es una cuestión de factores constantes, sí. Los mejores algoritmos de división de enteros grandes utilizan una técnica muy similar a la del algoritmo completo, como la iteración de Newton-Raphson y la duplicación de la precisión efectiva en cada iteración. ¡Un bucle Newton-Raphson dentro de un bucle Newton-Raphson se acumula en los factores constantes! Ricky Demer tiene razón; Estaba pensando en la palabra modelo de RAM. Probablemente debería haber mencionado esto.

— Seudónimo