Вопросы с тегом «floating-accuracy»

На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Рассмотрим следующий код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Почему эти неточности случаются?

2983 math  language-agnostic  floating-point  floating-accuracy 

Я знаю, UIKitиспользует CGFloatиз-за разрешения независимой системы координат. Но каждый раз, когда я хочу проверить, например, frame.origin.xвызывает ли 0это у меня тошноту: if (theView.frame.origin.x == 0) { // do important operation } Не CGFloatуязвима к ложным срабатываниям при сравнении с ==, <=, >=, <, >? Это с плавающей точкой, и …

391 objective-c  ios  c  floating-point  floating-accuracy 

Следующий код явно неверен. В чем проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

Согласно этой странице java.sun == является оператором сравнения равенства для чисел с плавающей точкой в ​​Java. Тем не менее, когда я набираю этот код: if(sectionID == currentSectionID) в мой редактор и запустив статический анализ, я получаю: «JAVA0078 значения с плавающей точкой по сравнению с ==» Что плохого в использовании ==для …

177 java  equality  floating-accuracy 

Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (математика с плавающей запятой не работает? ). Но я не понимаю , почему 4*0.1печатается хорошо , как 0.4, но 3*0.1это не так , когда оба значения фактически имеют уродливые десятичные представления: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Можно ли в следующем примере получить деление на 0 (или бесконечность)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях, конечно, не будет. Но что, если aи bочень близки, может(a-b) быть …

131 floating-point  double  floating-accuracy  ieee-754 

Я пытаюсь усечь десятичные числа до десятичных знаков. Что-то вроде этого: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)делает примерно то, что нужно, но округляет значение. Мне не нужно округлять значение. Надеюсь, это возможно в javascript.

93 javascript  floating-point  floating-accuracy 

Есть ли способ программно получить двойное значение, наиболее близкое к 1.0, но не на самом деле 1.0? Один из хакерских способов сделать это - преобразовать двойное число в целое число того же размера, а затем вычесть единицу. Как работают форматы с плавающей запятой IEEE754, это привело бы к уменьшению экспоненты …

88 c++  floating-point  floating-accuracy