Programación floating-point

18

¿Cómo puedo formatear un flotante para que no contenga ceros finales? En otras palabras, quiero que la cadena resultante sea lo más corta posible. Por ejemplo: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"

181 python formatting floating-point pretty-print

13

¿Cómo redondeas un número de coma flotante en Perl?

¿Cómo puedo redondear un número decimal (punto flotante) al entero más cercano? p.ej 1.2 = 1 1.7 = 2

174 perl floating-point rounding

1

Un método rápido para redondear un doble a un int de 32 bits explicado

Al leer el código fuente de Lua , noté que Lua usa a macropara redondear doublea 32 bits int. Extraje el macro, y se ve así: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) = (t)u.i[ENDIANLOC];} …

169 c++ c performance floating-point

11

¿Cuál es la diferencia entre una operación de punto flotante de precisión simple y doble precisión?

¿Cuál es la diferencia entre una operación de punto flotante de precisión simple y una operación flotante de precisión doble? Estoy especialmente interesado en términos prácticos en relación con las consolas de videojuegos. Por ejemplo, ¿la Nintendo 64 tiene un procesador de 64 bits y, si lo tiene, eso significaría …

169 floating-point precision processor operations

6

Si copio un flotante a otra variable, ¿serán iguales?

Sé que usar ==para verificar la igualdad de las variables de punto flotante no es una buena manera. Pero solo quiero saber eso con las siguientes declaraciones: float x = ... float y = x; assert(y == x) Como yse copia de x, ¿será cierta la afirmación?

167 c++ floating-point

2

¿Cuál es el primer entero que un flotador IEEE 754 es incapaz de representar exactamente?

Para mayor claridad, si estoy usando un lenguaje que implementa flotadores IEE 754 y declaro: float f0 = 0.f; float f1 = 1.f; ... y luego imprimirlos de nuevo, obtendré 0.0000 y 1.0000, exactamente. Pero IEEE 754 no es capaz de representar todos los números a lo largo de la …

162 types floating-point ieee-754

5

Formatear / suprimir la notación científica de los resultados de la agregación de Python Pandas

¿Cómo se puede modificar el formato para la salida de una operación groupby en pandas que produce notación científica para números muy grandes? Sé cómo formatear cadenas en Python, pero estoy perdido cuando se trata de aplicarlo aquí. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 Esto suprime la notación …

162 python pandas floating-point scientific-notation number-formatting

4

¿Por qué el valor de punto flotante de 4 * 0.1 se ve bien en Python 3 pero 3 * 0.1 no?

Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante ( ¿se rompen las matemáticas de coma flotante? ). Pero no veo por qué 4*0.1se imprime bien como 0.4, pero 3*0.1no lo es, cuando ambos valores tienen representaciones decimales feas: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 …

158 python floating-point rounding floating-accuracy ieee-754

6

¿Por qué Double.MIN_VALUE no es negativo?

¿Alguien puede arrojar algo de luz sobre por qué Double.MIN_VALUEno es realmente el valor mínimo que los Dobles pueden tomar? Es un valor positivo, y un Doble puede, por supuesto, ser negativo. Entiendo por qué es un número útil, pero parece un nombre muy poco intuitivo, especialmente en comparación con …

157 java numbers floating-point

16

Comparar carrozas en php

Quiero comparar dos flotantes en PHP, como en este código de muestra: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } En este código se devuelve el resultado de …

157 php floating-point

17

¿Cómo comparar dos números de coma flotante en Bash?

Estoy tratando de comparar dos números de coma flotante dentro de un script bash. Tengo que variables, por ejemplo let num1=3.17648e-22 let num2=1.5 Ahora, solo quiero hacer una comparación simple de estos dos números: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 < …

156 bash floating-point comparison numbers

9

¿Por qué Double.NaN == Double.NaN devuelve falso?

Estaba estudiando preguntas de OCPJP y encontré este código extraño: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Cuando ejecuté el código, obtuve: false true ¿Cómo es la salida falsecuando estamos comparando dos cosas que se parecen entre sí? Que NaNsignifica

155 java floating-point nan scjp ocpjp

10

¿Las matemáticas de punto flotante son consistentes en C #? ¿Puede ser?

No, esta no es otra pregunta "¿Por qué es (1 / 3.0) * 3! = 1" . He estado leyendo mucho sobre puntos flotantes últimamente; específicamente, cómo el mismo cálculo podría dar diferentes resultados en diferentes arquitecturas o configuraciones de optimización. Este es un problema para los videojuegos que almacenan …

155 c# .net floating-point precision ieee-754

7

precisión 'flotante' versus 'doble'

El código float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); te dará la salida x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 donde en la tercera línea de salida 741012573242hay basura y en la cuarta línea 116hay basura. ¿Los dobles siempre tienen 16 cifras significativas mientras …

155 c floating-point

3

¿Por qué agregar 0.1 múltiples veces permanece sin pérdidas?

Sé que el 0.1número decimal no se puede representar exactamente con un número binario finito ( explicación ), por double n = 0.1lo que perderá algo de precisión y no será exactamente0.1 . Por otro lado 0.5se puede representar exactamente porque lo es 0.5 = 1/2 = 0.1b. Habiendo dicho …

152 java floating-point double precision

Preguntas etiquetadas con floating-point