Вопросы с тегом «ieee-754»

Хорошо известно, что NaN распространяются в арифметике, но я не смог найти никаких демонстраций, поэтому я написал небольшой тест: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float …

300 c++  c  floating-point  ieee-754  icc 

Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=,> =, <,>, где одним или обоими значениями является NaN, возвращают false, что противоречит поведению всех других значений. Я предполагаю, что это каким-то образом упрощает численные вычисления, но я не смог найти …

267 floating-point  comparison  nan  ieee-754  iec10967 

Какое наибольшее целое число без плавающих может быть сохранено в двойном типе IEEE 754 без потери точности?

225 types  floating-point  double  ieee-754 

Тип данных с плавающей запятой - это 32-битная плавающая точка IEEE 754 с одинарной точностью, а тип данных с двойной точностью - 64-битная плавающая точка IEEE 754 с двойной точностью. Что это означает? И когда я должен использовать float вместо double или наоборот?

220 java  floating-point  double  ieee-754 

Для ясности, если я использую язык, который реализует плавающие объекты IEE 754, и я объявляю: float f0 = 0.f; float f1 = 1.f; ... а затем распечатать их обратно, я получу 0,0000 и 1,0000 - точно. Но IEEE 754 не способен представлять все числа вдоль реальной линии. Близко к нулю, …

164 types  floating-point  ieee-754 

Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (математика с плавающей запятой не работает? ). Но я не понимаю , почему 4*0.1печатается хорошо , как 0.4, но 3*0.1это не так , когда оба значения фактически имеют уродливые десятичные представления: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Нет, это не другой вопрос «Почему (1 / 3.0) * 3! = 1» . В последнее время я много читаю о числах с плавающей запятой; в частности, как один и тот же расчет может дать разные результаты для разных архитектур или настроек оптимизации. Это проблема для видеоигр, в которых хранятся …

155 c#  .net  floating-point  precision  ieee-754 

Можно ли в следующем примере получить деление на 0 (или бесконечность)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях, конечно, не будет. Но что, если aи bочень близки, может(a-b) быть …

131 floating-point  double  floating-accuracy  ieee-754 

PHP известен своим манипуляциями с типами. Я должен признать, что это меня озадачивает, и мне трудно понять основные логические / фундаментальные вещи в сравнениях. Например: если $a > $bверно и $b > $cверно, должно ли это означать, что $a > $cэто всегда верно? Следуя базовой логике, я бы сказал « …

115 php  if-statement  comparison  logic  ieee-754 

Я читал о числах с плавающей запятой и понимаю, что NaN может быть результатом операций. Но я не могу понять, что именно это за концепции. В чем разница между ними? Какой из них можно создать при программировании на C ++? Могу ли я как программист написать программу, вызывающую сигнал SNAN?

106 floating-point  nan  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) Зачем? Это вызвало неприятную ошибку в моем коде. Почему 1мультипликативная идентичность не дает (inf + 0j)?

97 python  nan  ieee-754 

Справочная страница isnormal () сообщает: Определяет, является ли данное число с плавающей запятой arg нормальным, т. Е. Не равно нулю, субнормальному, бесконечному или NaN. Число, равное нулю, бесконечности или NaN, ясно, что это означает. Но это также говорит о субнормальном. Когда число ненормальное?

82 c++  c++11  floating-point  ieee-754 

В JavaScript значение NaN может быть внутренне представлено широким диапазоном 64-битных двойных чисел. В частности, любой дубль со следующим побитовым представлением: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx Это интерпретируется как NaN. Мой вопрос: предположим, что я приведу две 32-битные уинты …

12 javascript  ieee-754