Preguntas etiquetadas con floating-point

Los números de coma flotante son aproximaciones de números reales que pueden representar rangos más grandes que los enteros, pero usan la misma cantidad de memoria, a costa de una precisión menor. Si su pregunta es sobre pequeños errores aritméticos (p. Ej., ¿Por qué 0.2 + 0.1 es igual a 0.300000001?) O errores de conversión decimal, lea la página de "información" vinculada a continuación antes de publicar.

¿Cuál es la forma más efectiva de flotación y doble comparación?

¿Cuál sería la forma más eficiente de comparar dos double o dos floatvalores? Simplemente hacer esto no es correcto: bool CompareDoubles1 (double A, double B) { return A == B; } Pero algo como: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) …

524 c++ algorithm optimization floating-point

¿Cómo formatear bien los números flotantes a String sin un decimal decimal innecesario?

Un doble de 64 bits puede representar un entero +/- 2 53 exactamente Dado este hecho, elijo usar un tipo doble como tipo único para todos mis tipos, ya que mi número entero más grande es de 32 bits sin signo. Pero ahora tengo que imprimir estos pseudo enteros, pero …

496 java string floating-point format double

¿Cómo redondeas un número en Python?

Este problema me está matando. ¿Cómo se acumula un número UP en Python? Intenté redondear (número) pero redondeó el número hacia abajo. Ejemplo: round(2.3) = 2.0 and not 3, what I would like ¡Intenté int (número + .5) pero redondea el número nuevamente! Ejemplo: int(2.3 + .5) = 2 Luego …

487 python floating-point integer rounding python-2.x

Especificador de formato correcto para doble en printf

¿Cuál es el especificador de formato correcto para doubleprintf? ¿Es %fo es %lf? Creo que es %f, pero no estoy seguro. Muestra de código #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

¿Cómo formatear un flotante en javascript?

En JavaScript, al convertir de un flotante a una cadena, ¿cómo puedo obtener solo 2 dígitos después del punto decimal? Por ejemplo, 0,34 en lugar de 0,3445434.

427 javascript floating-point

¿Cuál es la diferencia entre float y double?

He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos, floaty doubleparecen ser intercambiables, es decir, usar uno u otro no parece afectar los resultados. ¿Es este realmente el caso? ¿Cuándo son intercambiables los flotadores y los dobles? Cuáles son las …

420 c++ c floating-point precision

¿Cómo obtener un número aleatorio entre un rango flotante?

randrange(start, stop)solo toma argumentos enteros. Entonces, ¿cómo obtendría un número aleatorio entre dos valores flotantes?

414 python random floating-point

¿Cómo analizar flotante con dos decimales en javascript?

tengo el siguiente código. Me gustaría tenerlo de modo que si price_result sea igual a un número entero, digamos 10, entonces me gustaría agregar dos lugares decimales. Entonces 10 sería 10.00. O si es igual a 10.6 sería 10.60. No estoy seguro de cómo hacer esto. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

412 javascript floating-point

¿Qué tan peligroso es comparar valores de coma flotante?

Sé UIKitusos CGFloatdebido a la resolución del sistema de coordenadas independiente. Pero cada vez que quiere comprobar si por ejemplo frame.origin.xse 0me hace sentir enferma: if (theView.frame.origin.x == 0) { // do important operation } No es CGFloatvulnerable a los falsos positivos cuando se compara con ==, <=, >=, <, …

391 objective-c ios c floating-point floating-accuracy

Cómo convertir float a int con Java

Utilicé la siguiente línea para convertir float a int, pero no es tan precisa como me gustaría: float a=8.61f; int b; b=(int)a; El resultado es: 8(Debería ser 9) Cuando a = -7.65f, el resultado es: -7(Debería ser -8) Cuál es la mejor manera de hacerlo ?

342 java floating-point int

¿Cuál es la mejor manera de comparar carrozas para casi igualdad en Python?

Es bien sabido que comparar flotadores por igualdad es un poco complicado debido a problemas de redondeo y precisión. Por ejemplo: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ ¿Cuál es la forma recomendada de lidiar con esto en Python? ¿Seguramente hay una función de biblioteca estándar para esto en alguna parte?

333 python floating-point

¿Cómo imprimo un valor doble con total precisión usando cout?

Así que obtuve la respuesta a mi última pregunta (no sé por qué no pensé en eso). Estaba imprimiendo un doubleuso coutque se redondeó cuando no lo esperaba. ¿Cómo puedo hacer coutuna impresión doublecon total precisión?

332 c++ floating-point precision iostream cout

JavaScript que muestra un flotante a 2 decimales

Quería mostrar un número con 2 decimales. Pensé que podría usar toPrecision(2)en JavaScript. Sin embargo, si el número es 0.05, me sale 0.0500. Prefiero que siga igual. Véalo en JSbin . ¿Cuál es la mejor manera de hacer esto? Puedo pensar en codificar algunas soluciones, pero me imagino (espero) que …

316 javascript floating-point precision

¿Qué representa la constante 0.0039215689?

Sigo viendo esta ventana emergente constante en varios archivos de encabezado de gráficos 0.0039215689 Parece que tiene algo que ver con el color, tal vez? Aquí está el primer éxito en Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; …

310 c floating-point constants magic-numbers

¿Doble contra BigDecimal?

Tengo que calcular algunas variables de punto flotante y mi colega me sugiere que lo use en BigDecimallugar de hacerlo, doubleya que será más preciso. ¿Pero quiero saber qué es y cómo aprovecharlo al máximo BigDecimal?

303 java floating-point double bigdecimal

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.

Licensed under cc by-sa 3.0 with attribution required.