Preguntas etiquetadas con floating-point

Con frecuencia, en mi experiencia en programación, necesito tomar una decisión si debo usar flotante o doble para mis números reales. A veces voy a flotar, a veces voy por el doble, pero realmente esto se siente más subjetivo. Si me confrontaran para defender mi decisión, probablemente no daría buenas …

194 c++  c  floating-point  numbers 

En todos los lugares que he visto, dice que doublees superior floaten casi todos los sentidos. floatse ha vuelto obsoleto doubleen Java, entonces ¿por qué todavía se usa? floatProgramo mucho con Libgdx, y te obligan a usar (deltaTime, etc.), pero me parece que doublees más fácil trabajar en términos de …

84 java  memory  floating-point  numbers 

Estoy confundido acerca de por qué nos importan las diferentes representaciones de cero positivo y negativo. Recuerdo vagamente las afirmaciones de lectura de que tener una representación negativa de cero es extremadamente importante en la programación que involucra números complejos. Nunca he tenido la oportunidad de escribir código que involucre …

64 math  floating-point 

Soy consciente de que la aritmética de coma flotante tiene problemas de precisión. Por lo general, los supero cambiando a una representación decimal fija del número, o simplemente descuidando el error. Sin embargo, no sé cuáles son las causas de esta inexactitud. ¿Por qué hay tantos problemas de redondeo con …

62 floating-point  numeric-precision 

C#tiene el decimaltipo que se usa para los números que necesitan una representación exacta en la base 10. Por ejemplo, 0.1no se puede representar en la base 2 (por ejemplo, floaty double) y siempre será una aproximación cuando se almacena en variables que son de estos tipos. Me preguntaba si …

42 c#  numbers  floating-point 

¿Existe una alternativa a los bits como la unidad de datos más pequeña? ¿Algo que no sea solo 0 o 1, sino que en realidad contenga muchos estados posibles en el medio? ¿No sería más natural almacenar flotadores como ese?

42 data  binary  floating-point  byte  bit 

Mientras investigaba la precisión de los números de coma flotante, he visto en algunos lugares una declaración similar a " flotante y doble son ( diseñados para / utilizados a menudo en ) ingeniería y cálculo científico " Según tengo entendido, la fuerza de los flotadores y los dobles es …

33 floating-point  numeric-precision 

Por ejemplo, quiero mostrar una lista de botones de 0,0.5, ... 5, que salta por cada 0.5. Utilizo un bucle for para hacer eso, y tengo un color diferente en el botón STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } En este caso, no …

31 javascript  coding-style  floating-point 

Estaba viendo http://www.joelonsoftware.com/items/2011/06/27.html y me reí de la broma de Jon Skeet acerca de que 0.3 no era 0.3. Personalmente nunca tuve problemas con flotadores / decimales / dobles, pero recuerdo que aprendí 6502 muy temprano y nunca necesité flotadores en la mayoría de mis programas. La única vez que …

29 floating-point 

Estaba leyendo un artículo de Microsoft sobre Ampliación de conversiones y Opción estrictamente activada cuando llegué a la parte Las siguientes conversiones pueden perder precisión: Integer a Single Largo a simple o doble Decimal a simple o doble Sin embargo, estas conversiones no pierden información o magnitud. .. pero de …

27 vb.net  floating-point 

Esta no es una pregunta duplicada, ya que leí la pregunta anterior. ¿Alguien puede ayudarme a entender how float values are stored in the memory? Mi duda es que aquí los valores flotantes contienen ' .'( for example 3.45) ¿cómo '.'se representará el en la memoria? ¿Alguien puede aclararme con …

20 c  memory  floating-point 

Al crear una aplicación que se ocupa de muchos cálculos matemáticos, me he encontrado con el problema de que ciertos números causan errores de redondeo. Si bien entiendo que el punto flotante no es exacto , el problema es ¿cómo trato con los números exactos para asegurarme de que cuando …

18 floating-point  numeric-precision 

Digamos que tenemos la siguiente clase de Python (el problema existe en Java igual que con equalsy hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees ¿Dónde degreesestá la temperatura en Kelvin como flotador? Ahora, me gustaría implementar pruebas de igualdad y hashing de Temperatureuna manera que compara flotadores hasta …

15 java  python  hashing  floating-point 

Por lo que recuerdo, yo mismo estaba programando, me enseñaron a no comparar números de coma flotante por igualdad. Ahora, mientras leía Programación en Lua sobre el numbertipo de Lua , encontré lo siguiente: El tipo de número representa números reales (punto flotante de precisión doble). Lua no tiene un …

11 lua  floating-point 

Al revisar de otro programador implementación de una función para calcular la CDF distribución normal , hice una sugerencia para reemplazar toda la implementación de Python con funciones integradas o utilizar SciPy, una biblioteca científica común. Otro programador señaló que math.erfc()ni scipy.stats.norm.cdf()proporciona garantías de precisión en su documentación. Por lo …

9 documentation  math  floating-point  numeric-precision