Tengo un multímetro digital y su precisión para VDC está marcada así:
± 0,03% + 10 dígitos
Este multímetro tiene una pantalla máxima de 80000. Por lo tanto, en el rango de 80 V puede mostrar, por ejemplo, 79.999V.
0.03% de 80V es 0.024V, eso está claro para mí. ¿Pero qué significa +10Digiteso?
El dispositivo en cuestión en Digitek DT-80000 .
Respuestas:
El 1 dígito significa que el dígito menos significativo puede estar apagado en +/- 1. En esta resolución, 1 dígito significaría +/- 0.001V. 10 dígitos significa que, básicamente, de sus 79.999V mostrados, también podría ser 79.989V (¡sin incluir el 0,03%!)
Entonces, básicamente en su rango, la especificación de 10 dígitos significa que +/- 0.03% + 0,01V es su error. Para medir 79.999V significa un error máximo absoluto o +/- 79.999 * 0.03% + 10 * 0.001V = 0.034V.
Al igual que Hans dice +/- 1 dígito significa que el último dígito puede estar 1 apagado. +/- 10 dígitos significa que puede tener 10 dígitos, o 1 dígito en la última posición. Muestra cuán relativos son los 5 dígitos (en realidad 4 3/4) de resolución: mientras obtiene 5 dígitos, solo 4 son significativos, el último no es confiable. Esto puede no verse tan mal, 10 en 80000 es 0.01%, para ser agregado a la precisión básica de 0.03%. Sin embargo, mientras que el 0.03% es relativo al valor medido, los 10 dígitos son absolutos y pesan más si su lectura es menor. 10 en 80000 fue 0.01%, si su lectura es 20000 este error será 0.05%, o mayor que el error relativo.
Si se establece un medidor con las especificaciones indicadas para el rango de 0 a 80 voltios, los valores pequeños serían precisos dentro de 10 mv, mientras que los valores más grandes podrían estar apagados en 24 mv adicionales. En un medidor de este tipo, el último dígito generalmente no será significativo cuando se toma a un solo lector de forma aislada, pero se proporciona para su uso en situaciones en las que uno está interesado en las diferencias entre las lecturas que se toman muy juntas. Por ejemplo, si mide dos voltajes en una sucesión bastante rápida, y luego repite esas mediciones, y las lecturas son:
Item1 Item2
49.123V 49.569V -- Initial measurements
49.125V 49.568V -- Repeated measurements
uno entonces la diferencia entre los voltajes de los dos elementos podría decirse con seguridad entre 442 y 445 mV. Uno no sabría dónde estaba el primer voltaje dentro del rango de 49.10V y 49.15V, ni dónde estaba el segundo dentro del rango de 49.55V y 49.59V, pero uno sabría la diferencia con una precisión mucho mayor que la que uno conocía. individualmente.