Preguntas etiquetadas con floating-point

Los números de coma flotante son aproximaciones de números reales que pueden representar rangos más grandes que los enteros, pero usan la misma cantidad de memoria, a costa de una precisión menor. Si su pregunta es sobre pequeños errores aritméticos (p. Ej., ¿Por qué 0.2 + 0.1 es igual a 0.300000001?) O errores de conversión decimal, lea la página de "información" vinculada a continuación antes de publicar.

Obtener la parte decimal de un número con JavaScript

Tengo números flotantes como 3.2y 1.6. Necesito separar el número en la parte entera y decimal. Por ejemplo, un valor de 3.2se dividiría en dos números, es decir 3y0.2 Obtener la porción entera es fácil: n = Math.floor(n); Pero estoy teniendo problemas para obtener la porción decimal. He intentado esto: …

247 javascript floating-point numbers decimal rounding

Agregar valor de punto flotante a los recursos / valores de Android

Estoy tratando de agregar un poco de espacio entre líneas a mis TextViews usando android:lineSpacingMultiplier la documentación : Espaciado adicional entre líneas de texto, como multiplicador. Debe ser un valor de coma flotante, como "1.2". Como estoy usando esto en algunas TextViews diferentes, me gustaría agregar una dimensión / valor …

243 android resources floating-point

¿Cómo uso la división de punto flotante en bash?

Estoy tratando de dividir dos anchos de imagen en un script Bash, pero bash me da 0como resultado: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Estudié la guía Bash y sé que debería usar bc, en todos los ejemplos que usan en Internet bc. En echoTraté de poner la misma cosa en mi SCALE, pero no …

242 bash floating-point arithmetic-expressions

Python JSON serializa un objeto decimal

Tengo un Decimal('3.9')como parte de un objeto, y deseo codificar esto en una cadena JSON que debería verse así {'x': 3.9}. No me importa la precisión en el lado del cliente, por lo que un flotador está bien. ¿Hay una buena manera de serializar esto? JSONDecoder no acepta objetos decimales, …

242 python json floating-point decimal

¿Por qué el hash de infinito de Python tiene los dígitos de π?

El hash del infinito en Python tiene dígitos que coinciden con pi : >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 ¿Es solo una coincidencia o es intencional?

241 python math hash floating-point pi

round () para flotante en C ++

Necesito una función de redondeo de coma flotante simple, por lo tanto: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Puedo encontrar ceil()y floor()en matemáticas.h, pero no round(). ¿Está presente en la biblioteca estándar de C ++ con otro nombre, o falta?

232 c++ floating-point rounding

¿Convertir flotadores a int en pandas?

He estado trabajando con datos importados de un CSV. Los pandas cambiaron algunas columnas para flotar, por lo que ahora los números en estas columnas se muestran como puntos flotantes. Sin embargo, necesito que se muestren como enteros o sin coma. ¿Hay alguna manera de convertirlos a enteros o no …

230 python pandas floating-point integer dataset

mayor entero que se puede almacenar en un doble

¿Cuál es el número entero "no flotante" más grande que se puede almacenar en un tipo doble IEEE 754 sin perder precisión?

225 types floating-point double ieee-754

Formato de flotación a n decimales

Necesito formatear un flotador a "n" decimales. estaba intentando BigDecimal, pero el valor de retorno no es correcto ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value …

220 java android floating-point numbers format

Tipo de datos flotante y doble en Java

El tipo de datos flotantes es un punto flotante IEEE 754 de 32 bits de precisión simple y el tipo de datos doble es un punto flotante IEEE 754 de 64 bits de precisión doble. Qué significa eso? ¿Y cuándo debo usar float en lugar de double o viceversa?

220 java floating-point double ieee-754

¿Cómo restrinjo un valor flotante a solo dos lugares después del punto decimal en C?

¿Cómo puedo redondear un valor flotante (como 37.777779) a dos decimales (37.78) en C?

215 c floating-point decimal

Formatear un flotador a 2 decimales

Actualmente estoy construyendo un módulo de ventas para el sitio web de un cliente. Hasta ahora tengo el precio de venta para calcular perfectamente, pero donde me he quedado atascado es formatear la salida a 2 decimales. Actualmente estoy llamando a esto en una variable para poder vincular los resultados …

210 c# variables floating-point decimal

Cómo verificar si un valor flotante es un número entero

Estoy tratando de encontrar la raíz cúbica más grande que sea un número entero, que sea menos de 12,000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not ¡No estoy seguro de cómo verificar …

203 python floating-point

¿Por qué los números de coma flotante son inexactos?

¿Por qué algunos números pierden precisión cuando se almacenan como números de coma flotante? Por ejemplo, el número decimal 9.2se puede expresar exactamente como una relación de dos enteros decimales ( 92/10), los cuales se pueden expresar exactamente en binario ( 0b1011100/0b1010). Sin embargo, la misma proporción almacenada como un …

198 floating-point language-agnostic precision

Usando bit a bit 0 para marcar un número

Un colega mío se topó con un método para hacer flotar los números del piso usando un bit a bit o: var a = 13.6 | 0; //a == 13 Estábamos hablando de eso y preguntándonos algunas cosas. ¿Como funciona? Nuestra teoría era que el uso de dicho operador convierte …

192 javascript floating-point bit-manipulation

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.

Licensed under cc by-sa 3.0 with attribution required.