программирование floating-point

30

Какой самый эффективный способ сравнения с плавающей запятой и двойного сравнения?

Какой самый эффективный способ сравнить два doubleили два floatзначения? Просто делать это не правильно bool CompareDoubles1 (double A, double B) { return A == B; } Но что-то вроде: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < EPSILON); } …

524 c++ algorithm optimization floating-point

26

Как красиво отформатировать плавающие числа в строку без лишних десятичных 0?

64-битный дубль может точно представлять целое число +/- 2 53 Учитывая этот факт, я решил использовать двойной тип как один тип для всех моих типов, так как мое самое большое целое число - 32-разрядное без знака. Но теперь я должен напечатать эти псевдоцелые числа, но проблема в том, что они …

496 java string floating-point format double

24

Как вы округлите число в Python?

Эта проблема убивает меня. Как собрать число UP в Python? Я попытался округлить (число), но оно округлило число вниз. Пример: round(2.3) = 2.0 and not 3, what I would like Я попробовал int (число + .5), но он снова округлил число вниз! Пример: int(2.3 + .5) = 2 Затем я …

488 python floating-point integer rounding python-2.x

5

Правильный спецификатор формата для double в printf

Каков правильный спецификатор формата doubleв printf? Это %fили это %lf? Я верю %f, но я не уверен. Пример кода #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

13

Как отформатировать поплавок в JavaScript?

В JavaScript при преобразовании из числа с плавающей точкой в строку, как я могу получить только 2 цифры после десятичной точки? Например, 0,34 вместо 0,3445434.

427 javascript floating-point

12

В чем разница между float и double?

Я читал о разнице между двойной точностью и одинарной точностью. Тем не менее, в большинстве случаев, floatи , doubleкажется, быть взаимозаменяемыми, то есть с помощью одного или другого , кажется, не влияют на результаты. Это действительно так? Когда поплавки и двойники взаимозаменяемы? Каковы различия между ними?

420 c++ c floating-point precision

4

Как получить случайное число между диапазонами с плавающей точкой?

randrange(start, stop)принимает только целочисленные аргументы. Так как же получить случайное число между двумя значениями с плавающей запятой?

416 python random floating-point

15

Как разобрать с плавающей запятой с двумя десятичными разрядами в JavaScript?

У меня есть следующий код. Мне бы хотелось, чтобы оно было таким, чтобы если price_result равнялся целому числу, скажем, 10, то я хотел бы добавить два десятичных знака. Таким образом, 10 будет 10,00. Или, если он равен 10,6, будет 10,60. Не уверен, как это сделать. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

412 javascript floating-point

11

Насколько опасно сравнивать значения с плавающей запятой?

Я знаю, UIKitиспользует CGFloatиз-за разрешения независимой системы координат. Но каждый раз, когда я хочу проверить, например, frame.origin.xвызывает ли 0это у меня тошноту: if (theView.frame.origin.x == 0) { // do important operation } Не CGFloatуязвима к ложным срабатываниям при сравнении с ==, <=, >=, <, >? Это с плавающей точкой, и …

391 objective-c ios c floating-point floating-accuracy

6

Как конвертировать float в int с помощью Java

Я использовал следующую строку для преобразования float в int, но это не так точно, как хотелось бы: float a=8.61f; int b; b=(int)a; Результат: 8(должно быть 9) Когда a = -7.65f, результат: -7(должно быть -8) Какой лучший способ сделать это?

342 java floating-point int

15

Каков наилучший способ сравнения чисел с плавающей точкой для почти равенства в Python?

Хорошо известно, что сравнение поплавков на равенство немного затруднительно из-за проблем округления и точности. Например: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Каков рекомендуемый способ борьбы с этим в Python? Конечно, есть где-нибудь стандартная библиотечная функция для этого?

333 python floating-point

11

Как вывести двойное значение с полной точностью, используя cout?

Итак, я получил ответ на мой последний вопрос (я не знаю, почему я не подумал об этом). Я печатал doubleиспользование, coutкоторое округлилось, когда я не ожидал этого. Как я могу сделать coutпечать с doubleиспользованием полной точности?

332 c++ floating-point precision iostream cout

10

JavaScript, отображающий число с плавающей точкой до 2 десятичных знаков

Я хотел отобразить число до 2 десятичных знаков. Я думал, что мог бы использовать toPrecision(2)в JavaScript. Однако, если номер есть 0.05, я получу 0.0500. Я бы предпочел, чтобы это осталось прежним. Смотрите это на JSbin . Каков наилучший способ сделать это? Я могу подумать о кодировании нескольких решений, но я …

316 javascript floating-point precision

2

Что представляет собой постоянная 0,0039215689?

Я постоянно вижу эту константу, всплывающую в различных графических заголовочных файлах 0.0039215689 Кажется, это как-то связано с цветом? Вот первый хит в Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; Gfx.FogColor.A = …

310 c floating-point constants magic-numbers

6

Двойной против BigDecimal?

Я должен вычислить некоторые переменные с плавающей точкой, и мой коллега предлагает мне использовать BigDecimalвместо, doubleтак как это будет более точным. Но я хочу знать, что это такое и как извлечь из этого максимум BigDecimal?

304 java floating-point double bigdecimal

Вопросы с тегом «floating-point»