Amplitud óptima de un bits sinusoide

Una sinusoide de tiempo continuo de cero a pico real amplitud (por ejemplo, para , ) se cuantifica en resolución bits mediante el redondeo a la entero más cercano (Fig. 1). ¿Cuál es la amplitud óptima para diferentes ?$A \le 2^{m-1}-0.5$$m=16$$A \le 32767.5$$m$$m \le 24$

Figura 1. Para , una sinusoide de la amplitud máxima permitida (línea continua azul), su cuantización (línea punteada naranja) y los enteros con signo de complemento de dos de 4 bits más negativos y positivos -8 y 7 ( amarillo).$m = 4$$A = 7.5$

Se desea una respuesta para cada una de las dos definiciones alternativas de optimización:

1. maximizar la relación señal-ruido (SNR), donde la señal es la sinusoide original y el ruido es el error de cuantificación, y
2. minimizar la distorsión armónica total (THD), que se normaliza contra la amplitud de la frecuencia fundamental en la serie de Fourier de la sinusoide cuantizada.

La fase de la sinusoide no importa: un cambio de fase de una sinusoide es equivalente a desplazarlo en el tiempo, lo que resulta en un cambio de tiempo tanto de la sinusoide cuantificada como del error de cuantificación. El espectro de potencia es invariable a los cambios de tiempo . Elegimos trabajar con sinusoide .$A\cos(x)$

Óptima por def. 1

De manera equivalente a maximizar la relación señal / ruido (SNR), podemos minimizar el error de cuantificación del cuadrado medio raíz en relación con el cuadrado medio raíz de la sinusoide, . Es suficiente hacer el análisis en el primer cuarto de período de la onda cosenoidal, porque el resto de la onda cosenoidal y el error de cuantificación son idénticos a su primer cuarto trimestre hasta un cambio de signo y / o inversión de tiempo. Deje estar en el primer cuarto de la onda cosenoidal, . A lo largo de las líneas de la ecuación. 2 de mi respuesta a una pregunta relacionada , la onda coseno cuantificada alcanza un valor entero cuando:$\sqrt{1/2}A$$\mathrm{RRMSE}$ $=$ $\sqrt{1/\mathrm{SNR}}$$x$$0 < x < \pi/2$$k \in 0\ldots\mathrm{round}(A)$

$$\begin{align}0 < x < \mathrm{acos}\left(\frac{\mathrm{round}(A) - 0.5}{A}\right),\quad &\text{if }k = \mathrm{round}(A),\\ \mathrm{acos}\left(\frac{k + 0.5}{A}\right) < x < \mathrm{acos}\left(\frac{k - 0.5}{A}\right),\quad &\text{if }1 \le k \le \mathrm{round}(A) - 1,\\ \mathrm{acos}\left(\frac{0.5}{A}\right) < x <\frac{\pi}{2},\quad &\text{if }k = 0.\end{align}\tag{1}$$

Cada valor de da al error cuadrático medio relativo una contribución aditiva de:$k$$\mathrm{RelMSE}$

$$\frac{2\,\mathrm{MSE}_k}{A^2} = \frac{2}{A^2}\frac{1}{\pi/2}\int_{x_0}^{x_1}\big(A\cos(x)-k\big)^2dx = \frac{2\sin(x_1)\cos(x_1) - 2\sin(x_0)\cos(x_0)}{\pi} + \frac{8k\big(\sin(x_0) - \sin(x_1)\big)}{\pi A} + \frac{4k^2(x_1 - x_0)}{\pi A^2} + \frac{2x_1 - 2x_0}{\pi},\tag{2}$$

donde y denotan, como se define por separado para cada , los límites dados por la ecuación. 1. El error de cuantificación cuadrático medio relativo total es entonces:$x_0$$x_1$$k$$x_0 < x < x_1$

$$\begin{gather}\mathrm{RelMSE} = \frac{2\,\mathrm{MSE}}{A^2} = \sum_{k=0}^{\mathrm{round}(A)}\frac{2\,\mathrm{MSE}_k}{A^2}\\ = \frac{2\,\mathrm{asin}\left(\frac{1}{2A}\right)}{\pi} - \frac{\sqrt{4A^2 - 1}}{2\pi A^2} - \frac{(2A^2 + 4\,\mathrm{round}(A)^2)\,\mathrm{asin}\left(\frac{2\,\mathrm{round}(A) - 1}{2A}\right)}{\pi A^2} - \frac{(6\,\mathrm{round}(A) + 1)\sqrt{4A^2 - (2\,\mathrm{round}(A) - 1)^2} - 2\pi(A^2 + 2\,\mathrm{round}(A)^2)}{2\pi A^2}\\{+\,\frac{1}{\pi A^2}\sum_{k=1}^{\mathrm{round}(A)-1}}\left(\left(2A^2 + 4k^2\right)\bigg(\mathrm{asin}\left(\tfrac{2k + 1}{2A}\right) - \mathrm{asin}\left(\tfrac{2k - 1}{2A}\right)\bigg) + \frac{(6k - 1)\sqrt{4A^2 - (2k + 1)^2} - (6k + 1)\sqrt{4A^2 - (2k - 1)^2}}{2}\right),\quad A > 0.5.\end{gather}\tag{3}$$

Para la optimización por definición 1, la tarea es encontrar el valor de que minimice el error de cuantificación cuadrático medio relativo RRMSE . bajo la restricción . Eq. 3 se pueden evaluar en Python utilizando la biblioteca de precisión arbitraria:$A$$= \sqrt{\mathrm{RelMSE}}$$A \le 2^{m-1}-0.5$mpmath

import mpmath as mp
def RelMSE(A):  # valid for A >= 0.5
    A = mp.mpf(A)
    return 2*mp.asin(1/(2*A))/mp.pi - mp.sqrt(4*A**2-1)/(2*mp.pi*A**2) - (2*A**2 + 4*mp.floor(A + 0.5)**2)*mp.asin((2*mp.floor(A + 0.5) - 1)/(2*A))/(mp.pi*A**2) - ((6*mp.floor(A + 0.5) + 1)*mp.sqrt(4*A**2 - (2*mp.floor(A + 0.5) - 1)**2) - 2*mp.pi*(A**2 + 2*mp.floor(A + 0.5)**2))/(2*mp.pi*A**2) + mp.nsum(lambda k: (2*A**2 + 4*k**2)*(mp.asin((2*k+1)/(2*A)) - mp.asin((2*k-1)/(2*A))) + ((6*k-1)*mp.sqrt(4*A**2 - (2*k + 1)**2) - (6*k + 1)*mp.sqrt(4*A**2 - (2*k - 1)**2))/2, [1, mp.floor(A + 0.5)-1])/(mp.pi*A**2)

RRMSE parece tener un mínimo local entre cada par de enteros sucesivos (Fig. 1).$A$

Figura 1. RRMSE (línea sólida azul y cuadrados azules) y su aproximación (naranja línea discontinua) sobre la base de la varianza de una distribución uniforme de la anchura de 1, para diferentes gamas de .$\sqrt{1/6}/A$$1/12$$A$

Una selección de óptima se dan en la Tabla 1 junto con el RRMSE resultante, también para algunos otros valores comunes de . En mayor , la reducción de RRMSE por la elección óptima será marginal. La siguiente secuencia de comandos de Python (continuación) puede generar las entradas de la tabla, que muestran solo dígitos que son iguales entre dos cálculos utilizando diferentes configuraciones de precisión, cuya ejecución tomó días:$A$$A$$m$

def approx_optimal_A(m):
    m = mp.mpf(m)
    return 2**(m-1) - 1 + mp.mpf("0.156936321399") + mp.exp(-1.2749819017 - 0.3464088917*m)  # Eq. 8
    # return 2**(m-1) - 1  # This less informed guess gives identical results but slower convergence

def to_max_digits(f, prec_1, prec_2, max_digits):  # return the at most max_digits digits of function f that are agreed about by both precision settings
    prec = mp.mp.prec
    mp.mp.prec = prec_1
    y_prec_1 = f()
    mp.mp.prec = prec_2
    y_prec_2 = f()
    digits = max_digits
    while mp.nstr(y_prec_1, digits, strip_zeros=False) != mp.nstr(y_prec_2, digits, strip_zeros=False):  # Beware: a possible infinite loop
        digits -= 1
    return mp.nstr(y_prec_2, digits, strip_zeros=False)
    prec = mp.mp.prec

double_digits = 15  # Print at most this many digits
dB_digits = 9

for m in range(2, 25):
    optimal_A = to_max_digits(lambda: mp.findroot(lambda A: mp.diff(RelMSE, A), approx_optimal_A(m)), 80, 100, double_digits)
    RelMSE_optimal = to_max_digits(lambda: 10*mp.log10(RelMSE(mp.mpf(optimal_A))), 80, 100, dB_digits)
    RelMSE_1 = to_max_digits(lambda: 10*mp.log10(RelMSE(2**(m-1)-1)), 80, 100, dB_digits)
    RelMSE_2 = to_max_digits(lambda: 10*mp.log10(RelMSE(2**(m-1)-0.5)), 80, 100, dB_digits)
    print(str(m)+"&"+optimal_A+"&"+RelMSE_optimal+"&"+RelMSE_1+"&"+RelMSE_2+"\\\\")

Tabla 1. Óptimo por definición 1 para diferentes y el RRMSE resultante, con el RRMSE para algunas opciones comunes de enumeradas para comparación. se ha dejado de lado porque no puede ser manejado por la ecuación. 3 y porque un solo bit no representa ningún número positivo como representación de complemento a dos. Tenga en cuenta que RRMSE en dB se convierte en SNR en dB mediante un cambio de signo, porque .$A$$m\le24$$A$$m=1$$\mathrm{SNR}$ $=$ $1/\mathrm{RelMSE}$ $=$ $1/\mathrm{RRMSE}^2$

$$\begin{array}{l|l|lll}m&\text{optimal }A&\rlap{\text{RRMSE (dB)}}&&\\ &&A=\text{optimal}&2^{m-1}-1&2^{m-1}-0.5\\ \hline 2&1.26827949461530&-11.1128053&-8.92729805&-10.1764645\\ 3&3.23800942121037&-18.8206937&-17.9588863&-17.8882004\\ 4&7.21658597929407&-25.5167673&-25.0903048&-24.7375654\\ 5&15.2007181331955&-31.8127094&-31.5775537&-31.2013629\\ 6&31.1888756714257&-37.9364880&-37.7977883&-37.4726954\\ 7&63.1800835394190&-43.9858910&-43.9001114&-43.6414308\\ 8&127.173613625523&-50.0049518&-49.9500053&-49.7527817\\ 9&255.168894736361&-56.0134743&-55.9773382&-55.8307200\\ 10&511.165479188890&-62.0200022&-61.9957638&-61.8884975\\ 11&1023.16302205377&-68.0278661&-68.0113689&-67.9337180\\ 12&2047.16126264484&-74.0380590&-74.0267095&-73.9708981\\ 13&4095.16000722516&-80.0505958&-80.0427267&-80.0028089\\ 14&8191.15911371601&-86.0651409&-86.0596541&-86.0312009\\ 15&16383.1584789666&-92.0812822&-92.0774410&-92.0572079\\ 16&32767.1580286428&-98.0986407&-98.0959437&-98.0815798\\ 17&65535.1577094659&-104.116904&-104.115007&-104.104821\\ 18&131071.157483397&-110.135830&-110.134493&-110.127276\\ 19&262143.157323352&-116.155234&-116.154291&-116.149181\\ 20&524287.157210089&-122.174984&-122.174318&-122.170701\\ 21&1048575.15712995&-128.194979&-128.194509&-128.191950\\ 22&2097151.15707326&-134.215150&-134.214818&-134.213008\\ 23&4194303.15703317&-140.235446&-140.23521&-140.233931\\ 24&8388607.15700481&-146.255831&-146.2557&-146.25476\end{array}$$

Óptima por def. 2

Una función periódica como una sinusoide cuantificada tiene una serie de Fourier; es una suma de sinusoides armónicos, es decir, sinusoides de frecuencias armónicas de una frecuencia fundamental. Los sinusoides armónicos son ortogonales. Por lo tanto, el cuadrado medio de la función periódica es igual a la suma de los cuadrados medios de las sinusoides armónicas. El cuadrado medio de la suma de los armónicos no fundamentales se puede calcular restando el cuadrado medio del fundamental del cuadrado medio de la función periódica. Para una onda coseno cuantizada esto permite calcular la distorsión armónica total (THD) como:$\mathrm{round}\big(A\cos(x)\big)$

$$\mathrm{THD} = \sqrt{\frac{\displaystyle\mathrm{MS} - a_1^2/2}{a_1^2/2}} = \sqrt{\frac{\mathrm{MS}}{a_1^2/2} - 1},\tag{4}$$

donde MS es el cuadrado medio de la onda coseno cuantificada, es el cuadrado medio del fundamental y es el coeficiente del coseno de frecuencia fundamental en la serie de Fourier de , calculado usando la ecuación. 3 de mi respuesta a una pregunta relacionada y simplificando a:$a_1^2/2$$a_1$$\mathrm{round}\big(A\cos(x)\big)$

$$a_1 = \frac{2}{\pi A}\left(\mathrm{round}(A)\sqrt{4A^2 - \big(2\,\mathrm{round}(A) - 1\big)^2} + \sum_{k=1}^{\mathrm{round}(A)-1}k\left(\sqrt{4A^2 - (2k - 1)^2} - \sqrt{4A^2 - (2k + 1)^2}\right)\right).\tag{5}$$

El cuadrado medio de la onda coseno cuantificada se calcula en su primer trimestre por:

$$\mathrm{MS} = \frac{1}{\pi/2}\int_0^{\pi/2}\mathrm{round}\big(A\cos(x)\big)^2dx = \frac{\mathrm{round}(A)^2}{\pi/2}\,\mathrm{acos}\left(\frac{\mathrm{round}(A) - 0.5}{A}\right) + {\frac{1}{\pi/2}\sum_{k=1}^{\mathrm{round}(A) - 1}}k^2\Bigg(\mathrm{acos}\left(\frac{k - 0.5}{A}\right) - \mathrm{acos}\left(\frac{k + 0.5}{A}\right)\Bigg)\tag{6}$$

THD se calcula y minimiza mediante el siguiente script de Python (continuación), utilizando Eqs. 4, 5 y 6:

def a_1(A):
    A = mp.mpf(A)
    return 2*(mp.floor(A + 0.5)*mp.sqrt(4*A**2 - (2*mp.floor(A + 0.5) - 1)**2) + mp.nsum(lambda k: k*(mp.sqrt(4*A**2 - (2*k - 1)**2)-mp.sqrt(4*A**2 - (2*k + 1)**2)), [1, mp.floor(A + 0.5) - 1]))/(mp.pi*A)

def MS(A):
    A = mp.mpf(A)
    return mp.floor(A + 0.5)**2*mp.acos((mp.floor(A + 0.5)-0.5)/A)/(mp.pi/2) + mp.nsum(lambda k: k**2*(mp.acos((k - 0.5)/A) - mp.acos((k + 0.5)/A)), [1, mp.floor(A + 0.5) - 1])/(mp.pi/2)

def STHD(A):  # Square of THD
    MS_1 = a_1(A)**2/2
    return MS(A)/MS_1 - 1

for m in range(2, 25):
    optimal_A = to_max_digits(lambda: mp.findroot(lambda A: mp.diff(STHD, A), approx_optimal_A(m)), 80, 100, double_digits)
    B = to_max_digits(lambda: a_1(mp.mpf(optimal_A)), 80, 100, double_digits)
    THD_optimal = to_max_digits(lambda: 10*mp.log10(STHD(mp.mpf(optimal_A))), 80, 100, dB_digits)
    THD_1 = to_max_digits(lambda: 10*mp.log10(STHD(2**(m-1)-1)), 80, 100, dB_digits)
    THD_2 = to_max_digits(lambda: 10*mp.log10(STHD(2**(m-1)-0.5)), 80, 100, dB_digits)
    print(str(m)+"&"+optimal_A+"&"+B+"&"+THD_optimal+"&"+THD_1+"&"+THD_2+"\\\\")

Figura 2. THD (dB) como función de la amplitud no cuantificada . Los máximos locales se encuentran en amplitudes que provocan que una protuberancia estrecha sobresalga en los extremos de la sinusoide cuantificada.$A$

Figura 3. Amplitud (línea continua azul) de la frecuencia fundamental en la cuantificación de una onda cosenoidal de amplitud , con la línea de identidad (línea discontinua naranja) trazada como referencia.$a_1$$A$

Tabla 2. Óptimo por definición 2 para diferentes y el THD resultante, con el THD para algunas opciones comunes de enumeradas para comparación. Sorprendentemente, THD se minimiza con la misma que maximiza la SNR (Tabla 1), también cuando se prueba con una precisión mucho mayor que la que se muestra aquí. Si se considera que la señal es una sinusoide de amplitud lugar de la amplitud , los valores de SNR se obtienen volteando el signo de los valores de THD.$A$$m\le24$$A$$A$$a_1$$A$

$$\begin{array}{l|l|l|lll}m&\text{optimal }A&a_1&\rlap{\text{THD (dB)}}&&\\ &&A=\text{optimal}&A=\text{optimal}&2^{m-1}-1&2^{m-1}-0.5\\ \hline 2&1.26827949461530&1.17011951948679&-10.7629578&-10.1492078&-10.5728562\\ 3&3.23800942121037&3.19552705145171&-18.7633376&-18.2533980&-18.3370094\\ 4&7.21658597929407&7.19632525078776&-25.5045573&-25.1895549&-25.0267366\\ 5&15.2007181331955&15.1907044658090&-31.8098475&-31.6159563&-31.3681507\\ 6&31.1888756714257&31.1838597476996&-37.9357894&-37.8138122&-37.5642711\\ 7&63.1800835394190&63.1775601103885&-43.9857175&-43.9071306&-43.6902709\\ 8&127.173613625523&127.172343338577&-50.0049084&-49.9531877&-49.7783344\\ 9&255.168894736361&255.168255766598&-56.0134634&-55.9788184&-55.8439127\\ 10&511.165479188890&511.165158147298&-62.0199994&-61.9964656&-61.8952456\\ 11&1023.16302205377&1023.16286093052&-68.0278654&-68.0117064&-67.9371468\\ 12&2047.16126264484&2047.16118185697&-74.0380588&-74.0268736&-73.9726322\\ 13&4095.16000722516&4095.15996674788&-80.0505958&-80.0428071&-80.0036830\\ 14&8191.15911371601&8191.15909344706&-86.0651409&-86.0596937&-86.0316405\\ 15&16383.1584789666&16383.1584688212&-92.0812822&-92.0774606&-92.0574286\\ 16&32767.1580286428&32767.1580235662&-98.0986407&-98.0959534&-98.0816905\\ 17&65535.1577094659&65535.1577069262&-104.116904&-104.115011&-104.104877\\ 18&131071.157483397&131071.157482127&-110.135830&-110.134495&-110.127304\\ 19&262143.157323352&262143.157322717&-116.155234&-116.154293&-116.149195\\ 20&524287.157210089&524287.157209771&-122.174984&-122.174319&-122.170708\\ 21&1048575.15712995&1048575.15712979&-128.194979&-128.194509&-128.191953\\ 22&2097151.15707326&2097151.15707318&-134.215150&-134.21482&-134.213010\\ 23&4194303.15703317&4194303.15703313&-140.235446&-140.235212&-140.233932\\ 24&8388607.15700481&8388607.15700479&-146.25583&-146.25567&-146.25476\end{array}$$

La equivalencia de las dos definiciones de optimización se mantiene incluso cuando la precisión numérica aumenta significativamente, aquí con al menos a 200 decimales, en Python (continuación):$m=4$

m = 4
mp.mp.dps = 200
mp.findroot(lambda A: mp.diff(RelMSE, A), 2**(m-1)-1+0.157)
mp.findroot(lambda A: mp.diff(STHD, A), 2**(m-1)-1+0.157)

que genera valores óptimos numéricamente idénticos para para las dos definiciones de optimización:$A$

mpf('7.21658597929406951556806247230383254685067097032105786583650636819627678717747461433940963299310318715204551609940031954265317274195597248077934451075855527')
mpf('7.21658597929406951556806247230383254685067097032105786583650636819627678717747461433940963299310318715204551609940031954265317274195597248077934451075855527')

Limite$m\to\infty$

En general se hace difícil optimizar directamente numéricamente , por lo que es deseable otro enfoque. Una aproximación de Taylor de la sinusoide sobre su pico, donde se diferencia más de una función lineal, es un polinomio cuadrático. Esto se puede usar para analizar los efectos de la cuantización en el límite . La diferencia entre el error de cuantificación de MS de una sinusoide con una amplitud y el error de cuantificación de MS de una función lineal es proporcional a (Fig. 4):$m$$m$$m\to\infty$ $\Rightarrow$ $A\to\infty$$A$$1/12$

$$\begin{gather}\mathrm{MS} - \frac{1}{12} \propto f(a) = \int_0^{\sqrt{4a + 2}/2}\left((x^2 - a)^2 - \frac{1}{12}\right)dx + {\sum_{k=1}^{\infty}\int_{\sqrt{4a + 4k - 2}/2}^{\sqrt{4a + 4k + 2}/2}\left((x^2 - a - k)^2 - \frac{1}{12}\right)dx} = \frac{1}{60}\left(\frac{\sqrt{4a + 2}}{16a^2 - 4a - 1} + \sum_{k=1}^\infty\left(\sqrt{4a + 4k + 2}\left(16a^2 + 4a\,(8k - 1) + 16k^2 - 4k - 1\right)\\ - \sqrt{4a + 4k - 2}\left(16a^2 + 4a\,(8k + 1) + 16k^2 + 4k - 1\right)\right)\right),\end{gather}\tag{7}$$

cuando la amplitud es un número entero más un número real . La suma en la ecuación. 7 parece converger, mientras que omitiendo el término daría como resultado que la secuencia de sumas parciales crezca sin límite, lo que indica que no importa qué valor de se elija, y como .$A$$\to\infty$$-0.5 < a \le 0.5$$-\frac{1}{12}$$a$$\left(\mathrm{MS} - \frac{1}{12}\right)/\mathrm{MS} \to 0$$\mathrm{MS} \to \frac{1}{12}$$m\to\infty$

Figura 4. y de la ecuación. 7. La forma de ve idéntica a la forma de RRMSE para grande en la Fig. 1.$f(a)$$f'(a)$$f(a)$$m$

Al diferenciar simbólicamente definido en la ecuación. 7 con respecto a (Fig. 4) y al encontrar el cero de cerca de , la óptima en puede ser calculado a un poco de precisión, en Python (continuación) :$f(a)$$a$$f'(a)$$a = 0.157$$a$$m\to\infty$

def f(a):
    a = mp.mpf(a)
    return (mp.sqrt(4*a + 2)*(16*a**2 - 4*a - 1) + mp.nsum(lambda k: (mp.sqrt(4*a + 4*k + 2)*(16*a**2 + 4*a*(8*k - 1) + 16*k**2 - 4*k - 1) - mp.sqrt(4*a + 4*k - 2)*(16*a**2 + 4*a*(8*k + 1) + 16*k**2 + 4*k - 1)), [1, mp.inf]))/60

def Df(a):  # Derivative of f(a)
    a = mp.mpf(a)
    return mp.sqrt(2)*(16*a**2 + 4*a - 1)/(12*mp.sqrt(2*a + 1)) + mp.nsum(lambda k: (mp.sqrt(4*a + 4*k - 2)*(16*a**2 + 4*a*(8*k + 1) + 16*k**2 + 4*k - 1) - mp.sqrt(4*a + 4*k + 2)*(16*a**2 + 4*a*(8*k - 1) + 16*k**2 - 4*k - 1))/(12*mp.sqrt(2*a + 2*k + 1)*mp.sqrt(2*a + 2*k - 1)), [1, mp.inf])    

to_max_digits(lambda: mp.findroot(lambda a: Df(a), 0.157), 63, 83, double_digits)

lo que da . Esto se puede utilizar para crear una aproximación de la óptima como función de , destinada a grandes :$a \approx 0.156936321399$$A$$m$$m \ge 20$

$A \approx 2^{m-1} - 1 + 0.156936321399 + e^{-1.2749819017 - 0.3464088917 m},\tag{8}$

donde los coeficientes en el exponente se calcularon mediante un ajuste lineal en a una linealización de los valores óptimos de la Tabla 1 o, de manera equivalente, la Tabla 2. El error al usar la aproximación se muestra en la Fig. 5 .$m \in \{21, 22\}$$A$

Figura 5: Error absoluto en la aproximación de óptimo por la ecuación. 8 en función de . Para , que se utilizaron para el ajuste, y para , el error de aproximación absoluta fue inferior a .$A$$m$$m \in \{21, 22\}$$m \in \{23, 24\}$$10^{-8}$

Por curiosidad, también calculé el peor de los casos que da el mayor error de cuantificación de MS como , al encontrar el cero de cerca de , que resultó estar en .$a$$m\to\infty$$f'(a)$$a = -0.43$$a \approx -0.433510875868$

Conclusión

Las dos definiciones de optimización parecen ser equivalentes a una precisión numérica convincente. Como , el valor óptimo de aproxima a aproximadamente (o más exactamente para grandes finitos la aproximación de la ecuación 8) y la reducción del error de cuantificación (por def. 1 SNR o def.2 THD) en dB al elegir el valor óptimo se aproxima a cero, en comparación con la elección de otro valor grande como o la elección del caso más desfavorable .$m\to\infty$$A$$2^{m-1}-1+0.156936321399$$m$$A = 2^{m-1}-1$$A = 2^{m-1}-0.5$

En la amplitud óptima , la sinusoide de mínimos cuadrados (LS) es de la misma frecuencia y fase que la sinusoide que se cuantifica, pero tiene una amplitud algo menor dada en la Tabla 2. Esto es algo contraintuitivo. Para minimizar THD (o maximizar SNR con la sinusoide que se aproxima como la señal) de aproximación de una sinusoide de amplitud utilizando una forma de onda de números bit con valores en el rango que se construye cuantificando (redondeando al entero más cercano) una sinusoide de amplitud , uno debe elegir y óptimos que no sean iguales.$A$$a_1$$a_1$$m$$-2^{m-1} \ldots 2^{m-1}-1$$A$$a_1$$A$

Los resultados son aplicables al tiempo continuo sin muestreo, o al muestreo en el límite , donde es la frecuencia sinusoide y es la frecuencia de muestreo. En general, la optimización no se preserva mediante el muestreo. El muestreo aleatorio con tiempos aleatorios de las muestras conservará la definición 1 de la SNR óptima, si la distribución de la fase sinusoide (módulo ) en las muestras es uniforme. Además, para irracionales , la misma óptima se conserva por la misma razón, véase el teorema de equidistribución . La optimización de la definición 1 SNR se desvanece con racionales , porque la distribución de las fases sinusoides no será uniforme.$f\to f_s$$f$$f_s$$2\pi$$f/f_s$$f/f_s$