Preguntas etiquetadas con numbers

Con frecuencia, en mi experiencia en programación, necesito tomar una decisión si debo usar flotante o doble para mis números reales. A veces voy a flotar, a veces voy por el doble, pero realmente esto se siente más subjetivo. Si me confrontaran para defender mi decisión, probablemente no daría buenas …

194 c++  c  floating-point  numbers 

En todos los lugares que he visto, dice que doublees superior floaten casi todos los sentidos. floatse ha vuelto obsoleto doubleen Java, entonces ¿por qué todavía se usa? floatProgramo mucho con Libgdx, y te obligan a usar (deltaTime, etc.), pero me parece que doublees más fácil trabajar en términos de …

84 java  memory  floating-point  numbers 

A uno de mis amigos se le hizo esta pregunta de entrevista: "Hay un flujo constante de números que provienen de una lista infinita de números de los cuales necesita mantener una estructura de datos para devolver los 100 números más altos en cualquier momento dado. Suponga que todos los …

53 numbers  big-o  puzzles 

De acuerdo, me siento estúpido al preguntar esto, pero en el artículo de Jeff: Cómo obtener la pantalla del teléfono de la entrevista correctamente y originalmente en las 5 preguntas esenciales de la pantalla del teléfono : No deberían mirarlo fijamente cuando pregunta con 2 ^ 16 es. Es un …

48 numbers  binary 

Los lenguajes de programación como Scheme (R5RS) y Python ( vea esta pregunta ) se redondean hacia el entero par más cercano cuando el valor está exactamente entre los enteros circundantes. ¿Cuál es el razonamiento detrás de esto? ¿Existe una idea matemática que haga que razonar a continuación sea más …

44 scheme  numbers  numeric-precision  python-3.x 

C#tiene el decimaltipo que se usa para los números que necesitan una representación exacta en la base 10. Por ejemplo, 0.1no se puede representar en la base 2 (por ejemplo, floaty double) y siempre será una aproximación cuando se almacena en variables que son de estos tipos. Me preguntaba si …

42 c#  numbers  floating-point 

Ha habido una historia en las noticias sobre un hombre cuya cuenta de Paypal fue acreditada accidentalmente con $ 92,233,720,368,547,800. ¿De dónde viene este número? ¿Qué tipo de error de programación puede generar este número?

36 errors  numbers  payment 

Cuando enseñé recientemente sobre la batalla Big vs. Little Endian, un estudiante preguntó si se había resuelto, y me di cuenta de que no lo sabía. Al mirar el artículo de Wikipedia , parece que los pares de arquitectura / SO actuales más populares usan Little Endian, pero ese Protocolo …

34 standards  protocol  computer-architecture  numbers  endianness 

Esta pregunta es acerca de cuántos bits se requieren para almacenar un rango. O dicho de otra manera, para un número dado de bits, ¿cuál es el rango máximo que se puede almacenar y cómo? Imagina que queremos almacenar un subrango dentro del rango 0-255. Entonces, por ejemplo, 45-74. Podemos …

29 data-structures  numbers  compression 

Las computadoras tienen problemas para almacenar números fraccionarios donde el denominador no es una solución para 2 ^ x. Esto se debe a que el primer dígito después del decimal vale 1/2, el segundo 1/4 (o 1 / (2 ^ 1) y 1 / (2 ^ 2)), etc. ¿Por qué …

24 numbers  numeric-precision 

Esta pregunta se migró de Stack Overflow porque se puede responder en Software Engineering Stack Exchange. Migrado hace 8 años . Solo estaba reflexionando sobre la rand()función php , y pensando en cómo podría rehacerla, y salí completamente estupido. ¿Cómo funcionan los generadores de números aleatorios?

23 random  numbers 

Recientemente diseñé un módulo de series temporales donde mi serie temporal es esencialmente a SortedDictionnary<DateTime, double>. Ahora me gustaría crear pruebas unitarias para asegurarme de que este módulo siempre funcione y produzca el resultado esperado. Una operación común es calcular el rendimiento entre los puntos en la serie de tiempo. …

20 .net  unit-testing  numbers 

En Java hay tipos primitivos para byte, short, inty longy lo mismo para floaty double. ¿Por qué es necesario que una persona establezca cuántos bytes se deben usar para un valor primitivo? ¿No podría determinarse el tamaño dinámicamente dependiendo de qué tan grande fue el número pasado? Hay dos razones …

20 java  language-design  data-types  numbers 

En numérica, es muy importante poder identificar esquemas inestables y mejorar su estabilidad. ¿Cómo identificar los cálculos de punto flotante inestables? Estoy trabajando en una simulación muy compleja donde muchos esquemas numéricos trabajan juntos y estoy buscando un método para identificar sus partes débiles. Estoy trabajando en un modelo físico …

15 numbers  numeric-precision 

¿Cuál es la forma más rápida de encontrar el primer entero (más pequeño) que no existe en una lista dada de enteros sin clasificar (y que es mayor que el valor más pequeño de la lista)? Mi enfoque primitivo es ordenarlos y recorrer la lista, ¿hay una mejor manera?

14 algorithms  search  list  numbers