Preguntas etiquetadas con floating-point

Los números de coma flotante son aproximaciones de números reales que pueden representar rangos más grandes que los enteros, pero usan la misma cantidad de memoria, a costa de una precisión menor. Si su pregunta es sobre pequeños errores aritméticos (p. Ej., ¿Por qué 0.2 + 0.1 es igual a 0.300000001?) O errores de conversión decimal, lea la página de "información" vinculada a continuación antes de publicar.




8
JavaScript: se redondea a varios lugares decimales, pero se eliminan los ceros adicionales
Aquí está el escenario: estoy recibiendo .9999999999999999cuando debería estar recibiendo 1.0. Puedo permitirme perder un lugar decimal de precisión, así que estoy usando .toFixed(15), qué tipo de funciona. El redondeo funciona, pero el problema es que me dan 1.000000000000000. ¿Hay alguna manera de redondear a varios lugares decimales, pero eliminar …




6
¿Cómo puedo convertir un entero en flotante en Java?
Tengo dos enteros xy y. Necesito calcular x/yy, como resultado, me gustaría flotar. Por ejemplo, como resultado de 3/2me gustaría tener 1.5. Pensé que la forma más fácil (o la única) de hacerlo es convertir xy yen tipo flotante. Desafortunadamente, no puedo encontrar una manera fácil de hacerlo. ¿Podrías ayudarme …


17
Conversión de doble a cadena sin notación científica
¿Cómo convertir un doble en una representación de cadena de punto flotante sin notación científica en .NET Framework? Muestras "pequeñas" (los números efectivos pueden ser de cualquier tamaño, como 1.5E200o 1e-200): 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 Ninguno de los formatos de números estándar es así, y un formato personalizado tampoco parece permitir tener …





7
Cuándo usar float vs decimal
Estoy creando esta API, y la base de datos almacenará valores que representan uno de los siguientes: porcentaje promedio Velocidad Sinceramente, no tengo idea de cómo representar algo con un rango entre 0 y 100% en números. Deberia ser 0.00 - 1.00 0.00 - 100.00 cualquier otra alternativa que no …

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.