Preguntas etiquetadas con floating-point

Los números de coma flotante son aproximaciones de números reales que pueden representar rangos más grandes que los enteros, pero usan la misma cantidad de memoria, a costa de una precisión menor. Si su pregunta es sobre pequeños errores aritméticos (p. Ej., ¿Por qué 0.2 + 0.1 es igual a 0.300000001?) O errores de conversión decimal, lea la página de "información" vinculada a continuación antes de publicar.

7
Cast to int vs floor
¿Hay alguna diferencia entre estos: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Según tengo entendido, ambos casos tienen el mismo resultado. ¿Hay alguna diferencia en el código compilado?
120 c++  c  floating-point 
29
Truncar flotantes en Python
Quiero eliminar dígitos de un flotante para tener un número fijo de dígitos después del punto, como: 1.923328437452 -> 1.923 Necesito enviar como una cadena a otra función, no imprimir. También quiero ignorar los dígitos perdidos, no redondearlos.
10
"F" después del número
¿Qué findican después de los números? ¿Es esto de C o de Objective-C? ¿Hay alguna diferencia en no sumar esto a un número constante? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); ¿Puedes explicar por qué no escribiría simplemente: CGRect frame = CGRectMake(0, 0, 320, 50);
4
¿Qué es flotar en Java?
Escribí este código: float b = 3.6; y me sale esto: Error: problema de compilación no resuelto: Falta de coincidencia de tipos: no se puede convertir de doble a flotante ¿Por qué? ¿Cuál es la definición de float?
19
Convertir cadena en flotante en Swift
Estoy tratando de convertir números tomados de un UITextField, que supongo, son en realidad Strings, y convertirlos a Float, para poder multiplicarlos. Tengo dos UITextfields que se declaran de la siguiente manera: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Cuando el usuario presiona un botón UIB, quiero calcular los …
11
Cálculos de punto flotante vs entero en hardware moderno
Estoy haciendo un trabajo crítico para el rendimiento en C ++ y actualmente estamos usando cálculos de números enteros para problemas que son inherentemente de punto flotante porque "es más rápido". Esto causa muchos problemas molestos y agrega mucho código molesto. Ahora, recuerdo haber leído sobre cómo los cálculos de …
14
Formatee los flotadores con el módulo json estándar
Estoy usando el módulo json estándar en python 2.6 para serializar una lista de flotantes. Sin embargo, obtengo resultados como este: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Quiero que los flotantes estén formateados con solo dos dígitos decimales. La salida debería verse así: >>> json.dumps([23.67, 23.97, …
7
Advertencia de C ++: división de doble por cero
Caso 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Se compila sin advertencias ni se imprime inf. Bien, C ++ puede manejar la división por cero ( véalo en vivo ). Pero, Caso 2: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } El …
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.