Вопросы с тегом «floating-point»

Числа с плавающей запятой представляют собой аппроксимацию действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет меньшей точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или десятичных ошибок преобразования, пожалуйста, прочитайте страницу информации, приведенную ниже, перед публикацией.

10
Добавить значение с плавающей запятой в ресурсы / значения Android
Я пытаюсь добавить немного пространства между строками в мои TextViews, используя android:lineSpacingMultiplier из документации : Дополнительный интервал между строками текста, как множитель. Должно быть значением с плавающей запятой, например, «1.2». Поскольку я использую это в нескольких различных TextViews, я хотел бы добавить глобальное измерение / значение к моим ресурсам, но …
18
Как использовать деление с плавающей точкой в ​​Bash?
Я пытаюсь разделить две ширины изображения в скрипте Bash, но Bash дает мне 0 в результате: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Я изучил руководство по Bash и знаю, что должен использовать bcво всех примерах в Интернете, которые они используют bc. Вecho Я пытался поставить такую же вещь в моей , SCALEно это не сработало. …
16
Python JSON сериализует десятичный объект
У меня есть Decimal('3.9')как часть объекта, и я хочу закодировать это в строку JSON, которая должна выглядеть следующим образом {'x': 3.9}. Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать это? JSONDecoder не принимает десятичные объекты, и предварительное преобразование в …
21
round () для поплавка в C ++
Мне нужна простая функция округления с плавающей точкой, таким образом: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Я могу найти ceil()и floor()в математике - но нет round(). Он присутствует в стандартной библиотеке C ++ под другим именем или отсутствует?
10
Конвертировать поплавки в панды в броню?
Я работал с данными, импортированными из CSV. Панды изменили некоторые столбцы на плавающие, так что теперь числа в этих столбцах отображаются как плавающие точки! Однако мне нужно, чтобы они отображались в виде целых чисел или без запятой. Есть ли способ преобразовать их в целые числа или не отображать запятую?
11
Формат Float до n десятичных знаков
Мне нужно отформатировать число с плавающей точкой "n" десятичных знаков. пытался BigDecimal, но возвращаемое значение не является правильным ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value …
9
Float и двойной тип данных в Java
Тип данных с плавающей запятой - это 32-битная плавающая точка IEEE 754 с одинарной точностью, а тип данных с двойной точностью - 64-битная плавающая точка IEEE 754 с двойной точностью. Что это означает? И когда я должен использовать float вместо double или наоборот?
7
Форматирование числа с плавающей точкой до 2 десятичных знаков
В настоящее время я создаю модуль продаж для веб-сайта клиентов. До сих пор у меня была идеальная цена продажи для расчета, но я застрял, отформатировав вывод в 2 десятичных знака. В настоящее время я вызываю это в переменной, чтобы данные могли связать результаты с представлением списка. Sale = float.Parse(((x.Sale_Price - …
13
Как проверить, является ли значение с плавающей точкой целым числом
Я пытаюсь найти самый большой корень куба, который является целым числом, которое составляет менее 12 000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Я не уверен, как проверить, если это целое число …
6
Почему числа с плавающей запятой неточные?
Почему некоторые числа теряют точность при хранении в виде чисел с плавающей запятой? Например, десятичное число 9.2может быть выражено точно как отношение двух десятичных целых чисел ( 92/10), оба из которых могут быть выражены точно в двоичном ( 0b1011100/0b1010). Однако, то же самое отношение, сохраненное как число с плавающей запятой, …
6
Использование побитового ИЛИ 0 для создания числа
Мой коллега наткнулся на метод для получения чисел с плавающей запятой с использованием побитового или: var a = 13.6 | 0; //a == 13 Мы говорили об этом и задавались вопросом несколько вещей. Как это работает? Наша теория заключалась в том, что использование такого оператора приводит число к целому числу, …
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.