Вопросы с тегом «floating-point»

Числа с плавающей запятой представляют собой аппроксимацию действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет меньшей точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или десятичных ошибок преобразования, пожалуйста, прочитайте страницу информации, приведенную ниже, перед публикацией.

2
Как выполнять деление в го
Я пытаюсь выполнить простое деление в Go. fmt.Println(3/10) Это печатает 0 вместо 0,3. Это как-то странно. Может ли кто-нибудь поделиться, в чем причина этого? я хочу выполнять различные арифметические операции в Go. Благодарность
9
Как я могу преобразовать строку в число в Perl?
У меня есть строка, содержащая десятичное значение, и мне нужно преобразовать эту строку в переменную с плавающей запятой. Итак, у меня есть пример строки «5.45», и мне нужен эквивалент с плавающей запятой, чтобы я мог добавить к нему .1. Я искал в Интернете, но вижу только, как преобразовать строку в …
3
Двойное приведение к беззнаковому int в Win32 обрезается до 2147483648
Компиляция следующего кода: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Выходы (MSVC x86): …
8
JavaScript: округлить до числа десятичных знаков, но удалить лишние нули
Вот сценарий: я получаю, .9999999999999999когда должен 1.0. Я могу позволить себе потерять десятичный знак точности, поэтому я использую .toFixed(15), какие работы. Округление работает, но проблема в том, что мне дали 1.000000000000000. Есть ли способ округлить до числа десятичных знаков, но убрать лишние пробелы? Примечание: .toPrecisionэто не то, что я хочу; …
11
Как мне проводить сравнение с плавающей запятой?
В настоящее время я пишу код, в котором есть что-то вроде: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); А потом в других местах мне может понадобиться выполнить равенство: double a = SomeCalculation3(); double b = SomeCalculation4(); if (a …
12
Как округлить число с плавающей запятой до определенного десятичного знака?
Предположим, у меня есть 8.8333333333333339, и я хочу преобразовать его в 8.84. Как я могу сделать это на Python? round(8.8333333333333339, 2)дает 8.83и нет 8.84. Я новичок в Python или программировании в целом. Я не хочу печатать это как строку, и результат будет использован в дальнейшем. Для получения дополнительной информации о …
2
Использование плавающей точки в ядре Linux
Я читал книгу Роберта Лава «Разработка ядра Linux» и наткнулся на следующий отрывок: Нет (простого) использования плавающей точки Когда процесс пользовательского пространства использует инструкции с плавающей запятой, ядро ​​управляет переходом из целочисленного режима в режим с плавающей запятой. Что должно делать ядро ​​при использовании инструкций с плавающей запятой, зависит от …
6
Как преобразовать целое число в число с плавающей запятой в Java?
У меня есть два целых числа xи y. Мне нужно рассчитать, x/yи в результате я бы хотел получить плавающий. Например в результате 3/2хотелось бы иметь 1.5. Я думал , что самый простой (или единственный) способ сделать это , чтобы преобразовать xи yв тип с плавающей точкой. К сожалению, я не …
3
Что такое субнормальное число с плавающей запятой?
Справочная страница isnormal () сообщает: Определяет, является ли данное число с плавающей запятой arg нормальным, т. Е. Не равно нулю, субнормальному, бесконечному или NaN. Число, равное нулю, бесконечности или NaN, ясно, что это означает. Но это также говорит о субнормальном. Когда число ненормальное?
2
Какой правильный / стандартный способ проверить, меньше ли разница, чем точность станка?
Я часто оказываюсь в ситуациях, когда необходимо проверить, превышает ли полученная разница точность станка. Похоже , что для этой цели R имеет удобную переменную: .Machine$double.eps. Однако, когда я обращаюсь к исходному коду R за рекомендациями по использованию этого значения, я вижу несколько разных шаблонов. Примеры Вот несколько примеров из statsбиблиотеки: …
7
Когда использовать float против десятичного
Я создаю этот API, и в базе данных будут храниться значения, представляющие одно из следующих: процент средний ставка Я, честно говоря, понятия не имею, как представить что-то, что диапазон составляет от 0 до 100% в цифрах. Должно ли это быть 0,00 - 1,00 0,00 - 100,00 любая другая альтернатива, которую …
1
Странное поведение (^) в Haskell
Почему GHCi дает неправильный ответ ниже? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 ОБНОВЛЕНИЕ Я бы реализовал функцию Haskell (^) следующим образом. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 = powerXY (1/x) (-y) …
5
Эффективная стабильная сумма упорядоченных чисел
У меня есть довольно длинный список положительных чисел с плавающей точкой ( std::vector<float>, размер ~ 1000). Числа отсортированы в порядке убывания. Если я суммирую их в следующем порядке: for (auto v : vec) { sum += v; } Я предполагаю, что у меня может быть некоторая проблема с числовой стабильностью, …
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.