Вопросы с тегом «floating-point»

Метод представления чисел фиксированным количеством значащих цифр и показателем некоторого основного числа. Они характеризуются в виде (sяграммNяеясaNTdяграммяTs)*бasееИкспоNеNT, Обычно числа представлены с основанием = 2 (двоичное).

4
Небольшие, непредсказуемые результаты в прогонах детерминированной модели
У меня есть значительная модель (~ 5000 строк), написанная на C. Это последовательная программа, нигде не генерирующая случайные числа. Она использует библиотеку FFTW для функций, использующих FFT - я не знаю деталей реализации FFTW, но я предполагаю, что функции в ней также являются детерминированными (поправьте меня, если я ошибаюсь). Проблема, …

1
Порядок операций, численные алгоритмы
Я прочитал это (1) Плохо обусловленные операции должны выполняться до хорошо подготовленных. Например, нужно вычислить как (xy) z, поскольку вычитание плохо обусловлено, а умножение - нет.xz−yzxz−yzxz-yz(x−y)z(x−y)z(x-y)z Однако анализ ошибок первого порядка обоих алгоритмов показывает, что они различаются только в три раза (*), и я не понимаю, почему можно обобщить это …

4
Актуальность вычислений с фиксированной и произвольной точностью
Я вижу очень мало библиотек / пакетов без вычислений с плавающей точкой. Принимая во внимание различные неточности представления с плавающей запятой, возникает вопрос, почему нет, по крайней мере, некоторых полей, в которых эта повышенная точность может стоить сложностей работы с фиксированной запятой. Существуют ли какие-либо ОСНОВНЫЕ трудности при использовании, скажем, …

3
Относительное сравнение чисел с плавающей точкой
У меня есть числовая функция, f(x, y)возвращающая двойное число с плавающей запятой, которая реализует некоторую формулу, и я хочу проверить, является ли она корректной по отношению к аналитическим выражениям для всех комбинаций параметров xи yкоторая мне интересна. Как правильно сравнивать вычисленные и аналитические числа с плавающей точкой? Допустим, два числа …

2
Как установить значения двойной точности в Фортране
Недавно я столкнулся со странной проблемой с FORTRAN95. Я инициализировал переменные X и Y следующим образом: X=1.0 Y=0.1 Позже я складываю их вместе и печатаю результат: 1.10000000149012 После изучения переменных кажется, что 0,1 не представляется в двойной точности с полной точностью. Есть ли способ избежать этого?
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.