Набор BigDecimal Масштаб и округление

143

В чем разница между этими двумя вызовами? (Есть ли?)

// 1.
new BigDecimal("3.53456").round(new MathContext(4, RoundingMode.HALF_UP));
// 2.
new BigDecimal("3.53456").setScale(4, RoundingMode.HALF_UP);

java bigdecimal

— пользователь
источник

помимо принятых ответов ниже - setScale () создает новый объект BigDecimal - учитывая его неизменяемый класс

— prash

@prash roundметод также возвращает новый экземпляр BigDecimal, потому что, как вы сказали, экземпляры неизменяемы.

— daiscog

Ответы:

218

Один важный момент, который упоминается, но не рассматривается напрямую, - это разница между «точностью» и «масштабом» и то, как они используются в этих двух утверждениях. «точность» - это общее количество значащих цифр в числе. «Масштаб» - это количество цифр справа от десятичной точки.

Конструктор MathContext принимает в качестве аргументов только точность и RoundingMode, поэтому масштаб никогда не указывается в первом операторе.

setScale() очевидно, принимает масштаб в качестве аргумента, а также RoundingMode, однако точность никогда не указывается во втором выражении.

Если переместить десятичную запятую на одну позицию вправо, разница станет очевидной:

// 1.
new BigDecimal("35.3456").round(new MathContext(4, RoundingMode.HALF_UP));
//result = 35.35
// 2.
new BigDecimal("35.3456").setScale(4, RoundingMode.HALF_UP);
// result = 35.3456

— Дейл Питерс
источник

Re: «точность» - это общее количество цифр в числе ». Нет. Точность - это количество значащих цифр. Точность 0,000042M составляет 2.

— Дэвид Дж.

См .: «точность»: подсчет цифр начинается с крайней левой ненулевой цифры точного результата. docs.oracle.com/javase/7/docs/api/java/math/BigDecimal.html

— Эдди

если «Точность - это количество значащих цифр», то почему точность 0,0000009 равна 2? это должно быть 1

— Sanchi Girotra

Как устанавливается значение вашего BigDecimal? Как вы выводите значение (использование String.format () может скрыть значащие цифры)?

— Дейл Питерс

@SanchiGirotra Точность - это «количество цифр в немасштабированном значении». Точность 2 при немасштабированном значении 90 и шкале 8 дает 0,0000009. Как и точность 1, немасштабированное значение 9 и шкала 7.

— daiscog

Это действительно большая разница, о которой вы должны помнить. setScale действительно устанавливает масштаб вашего числа, тогда как round округляет ваше число до указанных цифр, НО он «начинается с крайней левой цифры точного результата», как указано в jdk. Итак, что касается вашего образца, результаты такие же, но вместо этого попробуйте 0,0034. Вот моя заметка об этом в моем блоге:

http://araklefeistel.blogspot.com/2011/06/javamathbigdecimal-difference-between.html

— user817756
источник