Quel est le nombre REAL positif le plus bas possible


11

MSDN dit que la plage de nombres RÉELS est de - 3,40E + 38 à -1,18E - 38, 0 et 1,18E - 38 à 3,40E + 38. Apparemment, la vraie limite inférieure est beaucoup plus basse. Le script suivant remplit une colonne REAL avec 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Quelqu'un peut-il me dire quel est le nombre positif le plus bas possible?


1
Il y a certainement un comportement étrange avec ce type. Le plus petit littéral scalaire que j'ai pu lancer et sélectionner était 1.1754944E-38, qui est revenu en tant que 1.175494E-38 (notez les 4 manquants à la fin) - si vous essayez de lancer directement 1.175494E-38, vous obtenez zéro arrière.
Jon Seigel

Réponses:


13

La valeur minimale positive (subnormale) à virgule flottante simple précision est de 2 −149 ≈ 1,4 × 10 −45 . La valeur normale positive minimale est de 2 −126 ≈ 1,18 × 10 −38 ( référence ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Pour la double précision, la sous - normale positive minimale est:

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.