Preguntas etiquetadas con floating-accuracy

На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Considere el siguiente código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ¿Por qué ocurren estas imprecisiones?

2983 math  language-agnostic  floating-point  floating-accuracy 

Sé UIKitusos CGFloatdebido a la resolución del sistema de coordenadas independiente. Pero cada vez que quiere comprobar si por ejemplo frame.origin.xse 0me hace sentir enferma: if (theView.frame.origin.x == 0) { // do important operation } No es CGFloatvulnerable a los falsos positivos cuando se compara con ==, <=, >=, <, …

391 objective-c  ios  c  floating-point  floating-accuracy 

El siguiente código es obviamente incorrecto. ¿Cuál es el problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

De acuerdo con esta página java.sun == es el operador de comparación de igualdad para números de coma flotante en Java. Sin embargo, cuando escribo este código: if(sectionID == currentSectionID) en mi editor y ejecuto un análisis estático, obtengo: "JAVA0078 Valores de coma flotante en comparación con ==" ¿Qué tiene …

177 java  equality  floating-accuracy 

Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante ( ¿se rompen las matemáticas de coma flotante? ). Pero no veo por qué 4*0.1se imprime bien como 0.4, pero 3*0.1no lo es, cuando ambos valores tienen representaciones decimales feas: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } En casos normales no lo hará, por supuesto. Pero, ¿qué pasa si …

131 floating-point  double  floating-accuracy  ieee-754 

Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)hace lo correcto pero redondea el valor. No necesito redondear el valor. Espero que esto sea posible en javascript.

93 javascript  floating-point  floating-accuracy 

¿Hay alguna manera de obtener programáticamente el doble que está más cerca de 1.0, pero que en realidad no es 1.0? Una forma engañosa de hacer esto sería memcpy el doble a un entero del mismo tamaño y luego restar uno. De la forma en que funcionan los formatos de …

88 c++  floating-point  floating-accuracy