Excel Странная дополнительная цифра

2

В Excel 2007/2010 я получаю это странное поведение:

Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000

Странные дополнительные «2» около 14DP. Может кто-нибудь объяснить, почему это происходит, пожалуйста?

microsoft-excel  microsoft-excel-2010 
— j0nr
источник
3
Это, вероятно, результат вычислений с плавающей запятой. (Компьютеры обычно не рассчитывают в десятичной системе. Вместо этого они используют двоичные файлы, часто двоичные, глубиной около 80 бит. Это обычно достаточно близко, но не точно и приводит к ошибкам округления).
— Хеннес
1
Это действительно из-за десятичных расчетов и не является ошибкой.
— Ramhound
1
Вот достойная MS KB по теме: support.microsoft.com/en-us/kb/214118
— Байрон Уолл
Возможно, потому что компьютерная математика с плавающей запятой на самом деле неточна и ухудшается по мере того, как вы продвигаетесь в десятичных разрядах.
— Oort

Ответы:

1

Как уже упоминалось в комментариях, это не ошибка. Это происходит из-за неизбежной неточности арифметики с плавающей запятой из-за конечного числа битов, доступных для хранения значений, что приводит к приблизительному представлению, которое становится очевидным при отображении более значимых цифр.

Вот несколько полезных статей для вас:

— Каран
источник
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.