Programación floating-point

30

¿Se han roto las matemáticas de coma flotante?

На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Considere el siguiente código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ¿Por qué ocurren estas imprecisiones?

2983 math language-agnostic floating-point floating-accuracy

27

¿Cómo analizo una cadena en un flotante o int?

En Python, ¿cómo puedo analizar una cadena numérica como "545.2222"su valor flotante correspondiente 545.2222? ¿O analizar la cadena "31"a un entero 31? Solo quiero saber cómo analizar un flotante str a un float, y (por separado) un int str a un int.

2253 python parsing floating-point type-conversion integer

12

¿Por qué GCC no optimiza a * a * a * a * a * a to (a * a * a) * (a * a * a)?

Estoy haciendo una optimización numérica en una aplicación científica. Una cosa que noté es que GCC optimizará la llamada pow(a,2)compilándola a*a, pero la llamada pow(a,6)no está optimizada y realmente llamará a la función de biblioteca pow, lo que ralentiza enormemente el rendimiento. (En contraste, el compilador Intel C ++ , …

2120 gcc assembly floating-point compiler-optimization fast-math

18

¿Diferencia entre decimal, flotante y doble en .NET?

¿Qué es la diferencia entre decimal, floaty doubleen .NET? ¿Cuándo alguien usaría uno de estos?

2086 .net floating-point double decimal

25

Limitar flotantes a dos decimales

Quiero aser redondeado a 13.95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfunción no funciona como esperaba.

1692 python floating-point rounding precision

30

¿Cómo verifico si una cadena es un número (flotante)?

¿Cuál es la mejor manera posible de verificar si una cadena se puede representar como un número en Python? La función que tengo actualmente en este momento es: def is_number(s): try: float(s) return True except ValueError: return False Lo cual, no solo es feo y lento, parece torpe. Sin embargo, …

1610 python casting floating-point type-conversion

5

¿Por qué cambiar 0.1f a 0 ralentiza el rendimiento en 10x?

¿Por qué este bit de código, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for …

1528 c++ performance visual-studio-2010 compilation floating-point

15

¿Por qué no usar Double o Float para representar la moneda?

Siempre me han dicho que nunca represente dinero doubleo floattipos, y esta vez le hago la pregunta: ¿por qué? Estoy seguro de que hay una muy buena razón, simplemente no sé de qué se trata.

939 floating-point currency

7

¿Hay un tipo de entrada flotante en HTML5?

Según html5.org , el "atributo de valor del tipo de entrada" número ", si se especifica y no está vacío, debe tener un valor que sea un número válido de coma flotante". Sin embargo, es simplemente (en la última versión de Chrome, de todos modos), un control "arriba-abajo" con enteros, …

819 html input floating-point

30

Formatee el número para mostrar siempre 2 lugares decimales

Me gustaría formatear mis números para que siempre muestren 2 decimales, redondeando donde corresponda. Ejemplos: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 He estado usando esto: parseFloat(num).toFixed(2); Pero se muestra 1como 1, en lugar de 1.00.

783 javascript floating-point number-formatting

30

¿Cómo utilizar un valor de paso de rango decimal ()?

¿Hay alguna manera de pasar de 0 a 1 por 0.1? Pensé que podría hacerlo de la siguiente manera, pero falló: for i in range(0, 1, 0.1): print i En cambio, dice que el argumento paso no puede ser cero, lo cual no esperaba.

744 python floating-point range

11

¿Cómo puedo forzar la división a ser punto flotante? División sigue redondeando a 0?

Tengo dos valores enteros ay b, pero necesito su relación en coma flotante. Lo sé a < by quiero calcular a / b, así que si uso la división de enteros siempre obtendré 0 con un resto de a. ¿Cómo puedo forzar ca ser un número de coma flotante en …

721 python floating-point integer division python-2.x

14

Convertir decimal a doble

Quiero usar a Track-Barpara cambiar Formla opacidad de a. Este es mi código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Cuando construyo la aplicación, aparece el siguiente error: No se puede convertir implícitamente el tipo decimaladouble He intentado usar transy doublepero luego Controlno funciona. Este código funcionó bien …

672 c# floating-point type-conversion double decimal

30

¿Cómo lidiar con la precisión del número de coma flotante en JavaScript?

Tengo el siguiente script de prueba ficticio: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Ejecutar fragmento de códigoOcultar resultadosExpandir fragmento Esto imprimirá el resultado, 0.020000000000000004mientras que solo debería imprimir 0.02(si usa su calculadora). Según tengo entendido, esto se debe a errores en la precisión de …

620 javascript floating-point

5

¿Por qué Math.round (0.49999999999999994) devuelve 1?

En el siguiente programa, puede ver que cada valor es ligeramente inferior al .5redondeado hacia abajo, excepto 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; …

567 java floating-point double rounding

Preguntas etiquetadas con floating-point