Вопросы с тегом «floating-point»

У меня есть значительная модель (~ 5000 строк), написанная на C. Это последовательная программа, нигде не генерирующая случайные числа. Она использует библиотеку FFTW для функций, использующих FFT - я не знаю деталей реализации FFTW, но я предполагаю, что функции в ней также являются детерминированными (поправьте меня, если я ошибаюсь). Проблема, …

10 floating-point  precision  computer-arithmetic 

Я прочитал это (1) Плохо обусловленные операции должны выполняться до хорошо подготовленных. Например, нужно вычислить как (xy) z, поскольку вычитание плохо обусловлено, а умножение - нет.xz−yzxz−yzxz-yz(x−y)z(x−y)z(x-y)z Однако анализ ошибок первого порядка обоих алгоритмов показывает, что они различаются только в три раза (*), и я не понимаю, почему можно обобщить это …

10 stability  floating-point 

Я вижу очень мало библиотек / пакетов без вычислений с плавающей точкой. Принимая во внимание различные неточности представления с плавающей запятой, возникает вопрос, почему нет, по крайней мере, некоторых полей, в которых эта повышенная точность может стоить сложностей работы с фиксированной запятой. Существуют ли какие-либо ОСНОВНЫЕ трудности при использовании, скажем, …

10 floating-point  numerics 

У меня есть числовая функция, f(x, y)возвращающая двойное число с плавающей запятой, которая реализует некоторую формулу, и я хочу проверить, является ли она корректной по отношению к аналитическим выражениям для всех комбинаций параметров xи yкоторая мне интересна. Как правильно сравнивать вычисленные и аналитические числа с плавающей точкой? Допустим, два числа …

10 floating-point 

Недавно я столкнулся со странной проблемой с FORTRAN95. Я инициализировал переменные X и Y следующим образом: X=1.0 Y=0.1 Позже я складываю их вместе и печатаю результат: 1.10000000149012 После изучения переменных кажется, что 0,1 не представляется в двойной точности с полной точностью. Есть ли способ избежать этого?

10 fortran  floating-point