¿Cuál es el número REAL positivo más bajo posible?


11

MSDN dice que el rango de números REALES es - 3.40E + 38 a -1.18E - 38, 0 y 1.18E - 38 a 3.40E + 38. Aparentemente, el verdadero límite inferior es mucho más bajo. El siguiente script llena una columna REAL con 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

¿Alguien puede decirme cuál es el número positivo real más bajo posible?


1
Definitivamente hay un comportamiento extraño con este tipo. El literal escalar más pequeño que pude lanzar y seleccionar fue 1.1754944E-38, que regresó como 1.175494E-38 (tenga en cuenta los 4 que faltan al final): si intenta lanzar 1.175494E-38 directamente, obtendrá cero espalda.
Jon Seigel

Respuestas:


13

El valor mínimo positivo (subnormal) de punto flotante de precisión simple es 2 −149 ≈ 1.4 × 10 −45 . El valor normal mínimo positivo es 2 −126 ≈ 1.18 × 10 −38 ( referencia ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Para doble precisión, el mínimo positivo subnormal es:

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.