Какой фактический минимальный положительный РЕАЛЬНЫЙ номер


11

MSDN говорит, что диапазон РЕАЛЬНЫХ чисел составляет - от 3.40E + 38 до -1.18E - 38, 0 и 1.18E - от 38 до 3.40E + 38. По-видимому, истинный нижний предел намного ниже. Следующий скрипт заполняет столбец REAL значением 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Может кто-нибудь сказать мне, что является фактическим наименьшим возможным положительным числом?


1
Там определенно странное поведение с этим типом. Наименьший скалярный литерал, который я смог разыграть и выбрать, был 1.1754944E-38, который вернулся как 1.175494E-38 (обратите внимание на отсутствующие 4 в конце) - если вы попытаетесь разыграть 1.175494E-38 напрямую, вы получите ноль обратно.
Джон Зигель

Ответы:


13

Минимальное положительное (субнормальный) с одинарной точностью значения с плавающей точкой 2 -149 ≈ 1,4 × 10 -45 . Минимальное положительное нормальное значение составляет 2 −126 ≈ 1,18 × 10–38 ( ссылка ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Для двойной точности минимальное положительное субнормальное значение :

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.