Preguntas etiquetadas con numeric-precision

Soy consciente de que la aritmética de coma flotante tiene problemas de precisión. Por lo general, los supero cambiando a una representación decimal fija del número, o simplemente descuidando el error. Sin embargo, no sé cuáles son las causas de esta inexactitud. ¿Por qué hay tantos problemas de redondeo con …

62 floating-point  numeric-precision 

Los lenguajes de programación como Scheme (R5RS) y Python ( vea esta pregunta ) se redondean hacia el entero par más cercano cuando el valor está exactamente entre los enteros circundantes. ¿Cuál es el razonamiento detrás de esto? ¿Existe una idea matemática que haga que razonar a continuación sea más …

44 scheme  numbers  numeric-precision  python-3.x 

Mientras investigaba la precisión de los números de coma flotante, he visto en algunos lugares una declaración similar a " flotante y doble son ( diseñados para / utilizados a menudo en ) ingeniería y cálculo científico " Según tengo entendido, la fuerza de los flotadores y los dobles es …

33 floating-point  numeric-precision 

Las computadoras tienen problemas para almacenar números fraccionarios donde el denominador no es una solución para 2 ^ x. Esto se debe a que el primer dígito después del decimal vale 1/2, el segundo 1/4 (o 1 / (2 ^ 1) y 1 / (2 ^ 2)), etc. ¿Por qué …

24 numbers  numeric-precision 

Al crear una aplicación que se ocupa de muchos cálculos matemáticos, me he encontrado con el problema de que ciertos números causan errores de redondeo. Si bien entiendo que el punto flotante no es exacto , el problema es ¿cómo trato con los números exactos para asegurarme de que cuando …

18 floating-point  numeric-precision 

En numérica, es muy importante poder identificar esquemas inestables y mejorar su estabilidad. ¿Cómo identificar los cálculos de punto flotante inestables? Estoy trabajando en una simulación muy compleja donde muchos esquemas numéricos trabajan juntos y estoy buscando un método para identificar sus partes débiles. Estoy trabajando en un modelo físico …

15 numbers  numeric-precision 

Estoy tratando de pensar en cómo haría los cálculos en números extremadamente grandes (hasta el infinito - no hay números flotantes) si la construcción del lenguaje es incapaz de manejar números mayores que un cierto valor. Estoy seguro de que no soy el primero ni el último en hacer esta …

15 math  variables  numeric-precision 

Al revisar de otro programador implementación de una función para calcular la CDF distribución normal , hice una sugerencia para reemplazar toda la implementación de Python con funciones integradas o utilizar SciPy, una biblioteca científica común. Otro programador señaló que math.erfc()ni scipy.stats.norm.cdf()proporciona garantías de precisión en su documentación. Por lo …

9 documentation  math  floating-point  numeric-precision