Preguntas etiquetadas con floating-point

Los números de coma flotante son aproximaciones de números reales que pueden representar rangos más grandes que los enteros, pero usan la misma cantidad de memoria, a costa de una precisión menor. Si su pregunta es sobre pequeños errores aritméticos (p. Ej., ¿Por qué 0.2 + 0.1 es igual a 0.300000001?) O errores de conversión decimal, lea la página de "información" vinculada a continuación antes de publicar.

¿Por qué NaN - NaN == 0.0 con el compilador Intel C ++?

Es bien sabido que los NaN se propagan en aritmética, pero no pude encontrar ninguna demostración, así que escribí una pequeña prueba: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN …

300 c++ c floating-point ieee-754 icc

Hacer un flotador solo muestra dos decimales

Tengo el valor 25.00en a float, pero cuando lo imprimo en pantalla lo es 25.0000000. ¿Cómo puedo mostrar el valor con solo dos decimales?

296 objective-c formatting floating-point

¿Por qué cambiar el orden de la suma devuelve un resultado diferente?

¿Por qué cambiar el orden de la suma devuelve un resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Tanto Java como JavaScript devuelven los mismos resultados. Entiendo que, debido a la forma en que los números de coma flotante se representan en …

294 java javascript floating-point

¿Por qué algunas comparaciones flotantes <enteras son cuatro veces más lentas que otras?

Al comparar flotantes con enteros, algunos pares de valores tardan mucho más en evaluarse que otros valores de una magnitud similar. Por ejemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Pero si el flotante o entero se hace más pequeño o más grande en …

284 python performance floating-point cpython python-internals

¿Por qué los números decimales no se pueden representar exactamente en binario?

Se han publicado varias preguntas en SO sobre la representación de punto flotante. Por ejemplo, el número decimal 0.1 no tiene una representación binaria exacta, por lo que es peligroso usar el operador == para compararlo con otro número de coma flotante. Entiendo los principios detrás de la representación de …

284 math floating-point

Float vs Decimal en ActiveRecord

A veces, los tipos de datos de Activerecord me confunden. Err, a menudo. Una de mis preguntas eternas es, para un caso dado, ¿Debo usar :decimalo :float? A menudo me he encontrado con este enlace, ActiveRecord:: decimal vs: float? , pero las respuestas no son lo suficientemente claras para estar …

283 ruby-on-rails types floating-point decimal rails-activerecord

¿Por qué estos números no son iguales?

El siguiente código es obviamente incorrecto. ¿Cuál es el problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

Generación aleatoria de números flotantes

¿Cómo genero flotantes aleatorios en C ++? Pensé que podría tomar el rand entero y dividirlo por algo, ¿sería suficiente?

271 c++ random floating-point

¿Cuál es la razón de todas las comparaciones que devuelven falso para los valores de NaN IEEE754?

¿Por qué las comparaciones de los valores de NaN se comportan de manera diferente a todos los demás valores? Es decir, todas las comparaciones con los operadores ==, <=,> =, <,> donde uno o ambos valores es NaN devuelve falso, contrario al comportamiento de todos los demás valores. Supongo que …

267 floating-point comparison nan ieee-754 iec10967

¿Cuándo debo usar doble en lugar de decimal?

Puedo nombrar tres ventajas de usar double(o float) en lugar de decimal: Utiliza menos memoria. Más rápido porque las operaciones matemáticas de coma flotante son compatibles de forma nativa con los procesadores. Puede representar un mayor rango de números. Pero estas ventajas parecen aplicarse solo a operaciones de cálculo intensivo, …

265 c# types floating-point double decimal

¿Cuándo debo usar la palabra clave "strictlyfp" en Java?

He buscado lo que esto hace, pero ¿alguien tiene un ejemplo de cuándo usarías la strictfppalabra clave en Java? ¿Alguien realmente ha encontrado un uso para esto? ¿Habría algún efecto secundario de ponerlo en todas mis operaciones de coma flotante?

258 java floating-point strictfp

¿Qué tipo de datos MySQL debe usarse para Latitud / Longitud con 8 decimales?

Estoy trabajando con datos de mapas, y se Latitude/Longitudeextiende a 8 decimales. Por ejemplo: Latitude 40.71727401 Longitude -74.00898606 Vi en el documento de Google que usa: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL sin embargo, sus lugares decimales solo van a 6. ¿Debo …

257 mysql types floating-point

¿Por qué la división en Ruby devuelve un número entero en lugar de un valor decimal?

Por ejemplo: 9 / 5 #=> 1 pero esperaba 1.8. ¿Cómo puedo obtener el resultado decimal (no entero) correcto? ¿Por qué está volviendo 1en absoluto?

256 ruby math floating-point division integer-division

¿Cómo convertir una cadena en flotante en JavaScript?

Estoy tratando de analizar dos valores de una cuadrícula de datos. Los campos son numéricos, y cuando tienen una coma (ej. 554,20), no puedo obtener los números después de la coma. Lo he intentado parseInty parseFloat. ¿Cómo puedo hacer esto?

255 javascript parsing floating-point

¿Alguien puede explicar este extraño comportamiento con flotadores firmados en C #?

Aquí está el ejemplo con comentarios: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct …

247 c# .net floating-point

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.

Licensed under cc by-sa 3.0 with attribution required.