программирование floating-point

21

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Приведенный выше код печатает: 11.399999999999 Как мне заставить это просто напечатать (или быть в состоянии использовать это как) 11.4?

149 java floating-point double precision

12

Как подавить научную запись при печати значений с плавающей запятой?

Вот мой код: x = 1.0 y = 100000.0 print x/y Мой коэффициент отображается как 1.00000e-05. Есть ли способ подавить научную запись и заставить ее отображать как 0.00001? Я собираюсь использовать результат в виде строки.

147 python floating-point

7

Преобразуйте число с плавающей запятой до определенной точности, а затем скопируйте в строку

Скажем, у меня есть число с плавающей запятой 135.12345678910. Я хочу объединить это значение в строку, но только хочу 135.123456789. С помощью print я могу легко сделать это, сделав что-то вроде: print "%.9f" % numvar с numvarмоим исходным номером. Есть простой способ сделать это?

147 python string floating-point

2

Что на самом деле делает математика gcc?

Я понимаю, что --ffast-mathфлаг gcc может значительно увеличить скорость операций с плавающей запятой и выходит за рамки стандартов IEEE, но я не могу найти информацию о том, что на самом деле происходит, когда он включен. Может ли кто-нибудь объяснить некоторые детали и, возможно, дать четкий пример того, как что-то изменилось …

144 performance math gcc floating-point fast-math

11

Отображение числа с плавающей запятой с двумя десятичными знаками в Python

У меня есть функция, принимающая аргументы с плавающей запятой (обычно целые или десятичные числа с одной значащей цифрой), и мне нужно вывести значения в строке с двумя десятичными знаками (5 -> 5.00, 5.5 -> 5.50 и т. Д.). Как я могу это сделать в Python?

136 python string programming-languages floating-point

12

Можно ли получить 0, вычитая два неравных числа с плавающей запятой?

Можно ли в следующем примере получить деление на 0 (или бесконечность)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях, конечно, не будет. Но что, если aи bочень близки, может(a-b) быть …

131 floating-point double floating-accuracy ieee-754

12

Почему в C нет беззнаковых чисел с плавающей запятой?

Я знаю, вопрос кажется странным. Программисты иногда слишком много думают. Пожалуйста, прочтите ... В CI много использую signedи unsignedцелые числа. Мне нравится, что компилятор предупреждает меня, если я делаю такие вещи, как присвоение целого числа со знаком беззнаковой переменной. Я получаю предупреждения, если сравниваю подписанные с целыми числами без знака …

131 c types floating-point format unsigned

7

Выражение C # Float: странное поведение при приведении результата float к int

У меня есть такой простой код: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1и speed2должно иметь такое же значение, но на самом деле у меня есть: speed1 = 61 speed2 = 62 Я знаю, что мне, вероятно, следует использовать Math.Round вместо …

128 c# casting floating-point int expression

10

Как обрабатывать числа с плавающей запятой и десятичные разделители с номером типа ввода html5

Я создаю веб-приложение, которое в основном предназначено для мобильных браузеров. Я использую поля ввода с числовым типом, поэтому (большинство) мобильных браузеров вызывает только цифровую клавиатуру для лучшего взаимодействия с пользователем. Это веб-приложение в основном используется в регионах, где десятичным разделителем является запятая, а не точка, поэтому мне нужно обрабатывать оба …

128 javascript jquery mobile floating-point html-input

12

Округлить число с плавающей запятой до ближайшего целого?

Как следует из названия, я хочу взять число с плавающей запятой и округлить его до ближайшего целого числа. Однако, если это не целое, я ВСЕГДА хочу округлить переменную в меньшую сторону, независимо от того, насколько она близка к следующему целому числу вверх. Есть ли способ сделать это?

128 python floating-point integer rounding

2

Почему Clang оптимизирует x * 1.0, но НЕ x + 0.0?

Почему Clang оптимизирует цикл в этом коде #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= …

125 c++ c optimization floating-point clang

27

Как получить числа после запятой?

Как получить числа после десятичной точки? Например, если есть 5.55, как мне получить .55?

124 python floating-point decimal

19

round () не округляется правильно

В документации для функции round () указано, что вы передаете ей число, а позиции после десятичной дроби нужно округлять. Таким образом, он должен сделать это: n = 5.59 round(n, 1) # 5.6 Но, на самом деле, вкрадывается старая добрая странность с плавающей запятой, и вы получаете: 5.5999999999999996 Для пользовательского интерфейса …

123 python floating-point rounding

11

Почему я не могу использовать значение с плавающей запятой в качестве параметра шаблона?

Когда я пытаюсь использовать floatв качестве параметра шаблона, компилятор требует этого кода, пока intработает нормально. Это потому, что я не могу использовать floatв качестве параметра шаблона? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T returnVal() …

120 c++ templates generics floating-point

8

Строка PHP для плавающей

Я совсем не знаком с PHP, и у меня возник вопрос. У меня есть 2 переменные pricePerUnitи InvoicedUnits. Вот код, который устанавливает для них значения: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Если я выведу это, я получу правильные значения. Скажем, 5000выставленные единицы и 1.00по цене. Теперь мне нужно …

120 php string casting floating-point

Вопросы с тегом «floating-point»