En Excel 2007/2010, obtengo este comportamiento extraño:
Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000
Extraño '2' extra sobre 14DP en. ¿Alguien puede explicar por qué sucede esto, por favor?
En Excel 2007/2010, obtengo este comportamiento extraño:
Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000
Extraño '2' extra sobre 14DP en. ¿Alguien puede explicar por qué sucede esto, por favor?
Respuestas:
Como se menciona en los comentarios, esto no es un error. Se debe a la inexactitud inevitable de la aritmética de coma flotante debido al número finito de bits disponibles para almacenar valores, lo que resulta en una representación aproximada que se hace evidente en los dígitos más significativos que elige mostrar.
Aquí hay algunos artículos útiles para usted:
Horror de codificación: ¿por qué las computadoras apestan en matemáticas?
Cómo corregir errores de redondeo en aritmética de coma flotante
La aritmética de punto flotante puede dar resultados inexactos en Excel
Lo que todo informático debe saber sobre la aritmética de coma flotante
Comprensión de la precisión de coma flotante, también conocida como "¿Por qué Excel me da respuestas aparentemente incorrectas?" ( Versión archivada con imágenes )