Preguntas etiquetadas con dc


3
Perder precisión con cc
Quiero usar dcpara manejar algunos números de base 16 con puntos hexadecimales, pero me encuentro con problemas de precisión. Por ejemplo, a continuación estoy multiplicando F423F.FDpor 100, ambos hex. La respuesta esperada es F423FFD, en cambio, es F423FFA.E1cercana, pero no lo suficientemente precisa, incluso después del redondeo. $ dc 16 …
12 dc 
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.