Preguntas etiquetadas con ieee-754

Es bien sabido que los NaN se propagan en aritmética, pero no pude encontrar ninguna demostración, así que escribí una pequeña prueba: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN …

300 c++  c  floating-point  ieee-754  icc 

¿Por qué las comparaciones de los valores de NaN se comportan de manera diferente a todos los demás valores? Es decir, todas las comparaciones con los operadores ==, <=,> =, <,> donde uno o ambos valores es NaN devuelve falso, contrario al comportamiento de todos los demás valores. Supongo que …

267 floating-point  comparison  nan  ieee-754  iec10967 

¿Cuál es el número entero "no flotante" más grande que se puede almacenar en un tipo doble IEEE 754 sin perder precisión?

225 types  floating-point  double  ieee-754 

El tipo de datos flotantes es un punto flotante IEEE 754 de 32 bits de precisión simple y el tipo de datos doble es un punto flotante IEEE 754 de 64 bits de precisión doble. Qué significa eso? ¿Y cuándo debo usar float en lugar de double o viceversa?

220 java  floating-point  double  ieee-754 

Para mayor claridad, si estoy usando un lenguaje que implementa flotadores IEE 754 y declaro: float f0 = 0.f; float f1 = 1.f; ... y luego imprimirlos de nuevo, obtendré 0.0000 y 1.0000, exactamente. Pero IEEE 754 no es capaz de representar todos los números a lo largo de la …

162 types  floating-point  ieee-754 

Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante ( ¿se rompen las matemáticas de coma flotante? ). Pero no veo por qué 4*0.1se imprime bien como 0.4, pero 3*0.1no lo es, cuando ambos valores tienen representaciones decimales feas: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

No, esta no es otra pregunta "¿Por qué es (1 / 3.0) * 3! = 1" . He estado leyendo mucho sobre puntos flotantes últimamente; específicamente, cómo el mismo cálculo podría dar diferentes resultados en diferentes arquitecturas o configuraciones de optimización. Este es un problema para los videojuegos que almacenan …

155 c#  .net  floating-point  precision  ieee-754 

¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } En casos normales no lo hará, por supuesto. Pero, ¿qué pasa si …

131 floating-point  double  floating-accuracy  ieee-754 

PHP es famoso por su malabarismo de tipos. Debo admitir que me desconcierta, y estoy teniendo dificultades para descubrir cosas lógicas / fundamentales básicas en las comparaciones. Por ejemplo: si $a > $bes verdadero y $b > $ces verdadero, ¿debe significar que siempre$a > $c es verdad también? Siguiendo la …

115 php  if-statement  comparison  logic  ieee-754 

He leído sobre el punto flotante y entiendo que NaN podría resultar de operaciones. Pero no puedo entender qué son estos conceptos exactamente. ¿Cuál es la diferencia entre ellos? ¿Cuál se puede producir durante la programación en C ++? Como programador, ¿podría escribir un programa que provoque un sNaN?

98 floating-point  nan  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) ¿Por qué? Esto causó un error desagradable en mi código. ¿Por qué 1la identidad multiplicativa no es dar (inf + 0j)?

97 python  nan  ieee-754 

La página de referencia isnormal () dice: Determina si el número de punto flotante dado arg es normal, es decir, no es cero, subnormal, infinito ni NaN. Un número que sea cero, infinito o NaN es claro lo que significa. Pero también dice subnormal. ¿Cuándo es un número subnormal?

82 c++  c++11  floating-point  ieee-754 

Sé un poco sobre cómo se representan los números de punto flotante, pero me temo que no lo suficiente. La pregunta general es: Para una precisión dada (para mis propósitos, el número de lugares decimales exactos en base 10), ¿qué rango de números se puede representar para sistemas IEEE-754 de …

76 floating-point  precision  numerical  ieee-754 

En JavaScript, el valor de NaN se puede representar mediante una amplia gama de dobles de 64 bits internamente. Específicamente, cualquier doble con la siguiente representación bit a bit: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx Se interpreta como un NaN. …

12 javascript  ieee-754