Вопросы с тегом «rounding»

Я получаю много десятичных знаков при выводе этого кода (конвертер Фаренгейта в Цельсий). Мой код в настоящее время выглядит так: def main(): printC(formeln(typeHere())) def typeHere(): global Fahrenheit try: Fahrenheit = int(raw_input("Hi! Enter Fahrenheit value, and get it in Celsius!\n")) except ValueError: print "\nYour insertion was not a digit!" print "We've …

255 python  rounding 

У меня есть числа с плавающей точкой, как 3.2и 1.6. Мне нужно разделить число на целое и десятичное число. Например, значение 3.2будет разделено на два числа, то есть 3и0.2 Получить целую часть легко: n = Math.floor(n); Но у меня проблемы с получением десятичной части. Я пробовал это: remainer = n …

248 javascript  floating-point  numbers  decimal  rounding 

Мне нужна простая функция округления с плавающей точкой, таким образом: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Я могу найти ceil()и floor()в математике - но нет round(). Он присутствует в стандартной библиотеке C ++ под другим именем или отсутствует?

232 c++  floating-point  rounding 

Как я могу округлить число в JavaScript? math.round() не работает, потому что округляет его до ближайшего десятичного числа. Я не уверен, есть ли лучший способ сделать это, кроме разрыва его на десятичную точку при сохранении первого бита. Должно быть...

228 javascript  math  rounding 

Мне нужно преобразовать минуты в часы, округленные до 2 знаков после запятой. Мне также нужно отображать только до 2 чисел после запятой. Так что, если у меня есть минуты как 650. Затем часы должны быть 10,83 Вот что у меня так далеко: Select round(Minutes/60.0,2) from .... Но в этом случае, …

222 sql  rounding 

Я пытаюсь округлить значения BigDecimal до двух десятичных знаков. я использую BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); но он не делает то, что я хочу последовательно: rounded 0.819 to 0.82 rounded 1.092 to 1.1 rounded 1.365 to 1.4 // should be 1.37 rounded 2.730 …

217 java  math  bigdecimal  rounding 

Я пытаюсь определить лучший способ обрезать или отбрасывать лишние десятичные разряды в SQL без округления. Например: declare @value decimal(18,2) set @value = 123.456 Это автоматически круглый @valueбыть 123.46, это хорошо в большинстве случаев. Однако для этого проекта мне это не нужно. Есть ли простой способ обрезать десятичные дроби, которые мне …

194 sql  sql-server  tsql  rounding 

Рассмотрим четыре процента ниже, представленные в виде floatчисел: 13.626332% 47.989636% 9.596008% 28.788024% ----------- 100.000000% Мне нужно представить эти проценты в виде целых чисел. Если я просто использую Math.round(), у меня получается 101%. 14 + 48 + 10 + 29 = 101 Если я использую parseInt(), я получаю в итоге 97%. …

193 algorithm  math  rounding  percentage 

Я только что перечитал Что нового в Python 3.0 и в нем говорится: Функция округления () и стратегия возврата изменены. Точные полпути теперь округляются до ближайшего четного результата, а не от нуля. (Например, раунд (2.5) теперь возвращает 2, а не 3.) и документация для тура : Для встроенных типов, поддерживающих …

176 python  python-3.x  rounding 

Я что-то здесь упускаю? var someNumber = 123.456; someNumber = someNumber.toFixed(2); alert(typeof(someNumber)); //alerts string Почему же.toFixed()возвращает строку? Я хочу округлить число до 2 десятичных цифр.

176 javascript  types  rounding 

Как я могу округлить десятичное число (с плавающей запятой) до ближайшего целого числа? например 1.2 = 1 1.7 = 2

174 perl  floating-point  rounding 

Используя T-SQL и Microsoft SQL Server, я хотел бы указать количество десятичных цифр, когда делаю 2 целых числа, например: select 1/3 Это в настоящее время возвращается 0. Я хотел бы, чтобы это вернулось 0,33. Что-то вроде: select round(1/3, -2) Но это не работает. Как я могу достичь желаемого результата?

173 sql-server  sql-server-2008  division  rounding 

JRuby 1.6.x. Как вы округлите число до запятой в jruby? number = 1.1164 number.round(2) The above shows the following error wrong number of arguments (1 for 0) Как мне округлить это до 2 десятичных знаков?

172 ruby  jruby  rounding 

Я пытаюсь сделать калькулятор скорости роста ( Double), который округлит результат до ближайшего целого числа и пересчитает оттуда, как так: let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { println("week \(week) has \(users) users") users += users * …

170 swift  int  double  rounding 

Хорошо - я почти смущен, когда публикую это здесь (и я буду удалять, если кто-то проголосует за закрытие), поскольку это кажется основным вопросом. Это правильный способ округлить до кратного числа в C ++? Я знаю, что есть другие вопросы, связанные с этим, но мне особенно интересно узнать, как лучше всего …

168 c++  algorithm  rounding