Вопросы с тегом «numeric-precision»

Я знаю, что у арифметики с плавающей точкой есть проблемы точности. Я обычно преодолеваю их, переключаясь на фиксированное десятичное представление числа или просто игнорируя ошибку. Однако я не знаю, каковы причины этой неточности. Почему существует так много проблем округления с числами с плавающей запятой?

62 floating-point  numeric-precision 

Языки программирования, такие как Scheme (R5RS) и Python ( см. Этот Вопрос ), округляются до ближайшего четного целого числа, когда значение находится точно между окружающими целыми числами. В чем причина этого? Есть ли математическая идея, которая облегчает рассуждение о следующих вычислениях? (R5RS ссылается на стандарт IEEE с плавающей точкой как …

44 scheme  numbers  numeric-precision  python-3.x 

Исследуя точность чисел с плавающей точкой, я видел в некоторых местах утверждение, подобное " float и double являются ( предназначены для / часто используются в ) инженерных и научных расчетов " Насколько я понимаю, сила чисел с плавающей точкой и двойников - это количество памяти, которое они используют для своей …

33 floating-point  numeric-precision 

Компьютеры имеют проблемы с хранением дробных чисел, где знаменатель - это нечто иное, чем решение 2 ^ x. Это потому, что первая цифра после десятичной дроби стоит 1/2, вторая 1/4 (или 1 / (2 ^ 1) и 1 / (2 ^ 2)) и т. Д. Зачем иметь дело со всевозможными …

24 numbers  numeric-precision 

При создании приложения, которое занимается множеством математических вычислений, я столкнулся с проблемой, заключающейся в том, что определенные числа вызывают ошибки округления. Хотя я понимаю, что число с плавающей запятой не является точным , проблема заключается в том, как мне поступить с точными числами, чтобы убедиться, что при вычислениях на них …

18 floating-point  numeric-precision 

В цифрах очень важно уметь определять нестабильные схемы и улучшать их стабильность. Как определить нестабильные вычисления с плавающей запятой? Я работаю над очень сложным моделированием, в котором многие числовые схемы работают вместе, и я ищу методику, позволяющую выявить ее слабые стороны. Я работаю над физической моделью, включающей дифференциальные уравнения. С …

15 numbers  numeric-precision 

Я пытаюсь подумать о том, как бы я делал вычисления для чрезвычайно больших чисел (до бесконечности - без целых чисел), если языковая конструкция не способна обрабатывать числа, превышающие определенное значение. Я уверен, что я не первый и не последний, кто задает этот вопрос, но используемые мной поисковые термины не дают …

15 math  variables  numeric-precision 

Рассматривая реализацию функции другого программиста для вычисления CDF нормального распределения , я предложил либо заменить всю реализацию встроенными функциями Python, либо использовать SciPy, общую научную библиотеку. Другой программист отметил, что ни math.erfc()не scipy.stats.norm.cdf()дает никаких точных гарантий в своей документации. Поэтому я должен быть более осторожным при замене алгоритма аппроксимации (который …

9 documentation  math  floating-point  numeric-precision