Вопросы с тегом «double»

Тип данных с плавающей запятой - это 32-битная плавающая точка IEEE 754 с одинарной точностью, а тип данных с двойной точностью - 64-битная плавающая точка IEEE 754 с двойной точностью. Что это означает? И когда я должен использовать float вместо double или наоборот?

220 java  floating-point  double  ieee-754 

Сегодня я просматривал некоторый код C ++ (написанный кем-то другим) и нашел этот раздел: double someValue = ... if (someValue < std::numeric_limits<double>::epsilon() && someValue > -std::numeric_limits<double>::epsilon()) { someValue = 0.0; } Я пытаюсь понять, имеет ли это смысл. Документация для epsilon()говорит: Функция возвращает разницу между 1 и наименьшим значением больше …

214 c++  double 

Недавно мне пришлось сериализовать двойник в текст, а затем вернуть его обратно. Значение кажется не эквивалентным: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Но в соответствии с MSDN: Стандартные строки числового формата , опция …

185 c#  double  tostring  precision 

Мне нужно хранить двойной как строка. Я знаю, что могу использовать, printfесли хочу отобразить его, но я просто хочу сохранить его в строковой переменной, чтобы потом сохранить его на карте (как значение , а не ключ ).

171 c++  string  double 

Я пытаюсь сделать калькулятор скорости роста ( Double), который округлит результат до ближайшего целого числа и пересчитает оттуда, как так: let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { println("week \(week) has \(users) users") users += users * …

170 swift  int  double  rounding 

Как мне отформатировать a Doubleв a Stringв C #, чтобы иметь только два десятичных знака? Если я использую String.Format("{0:0.00}%", myDoubleValue)число, то округляется, и я хочу простое усечение без округления. Я также хочу, чтобы преобразование Stringбыло чувствительным к культуре.

153 c#  string  double 

Я знаю, что 0.1десятичное число не может быть представлено точно конечным двоичным числом ( объяснение ), поэтому double n = 0.1потеряет некоторую точность и не будет точно 0.1. С другой стороны, 0.5можно представить именно так, как оно есть 0.5 = 1/2 = 0.1b. Сказав, что понятно, что добавление 0.1 три …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Приведенный выше код печатает: 11.399999999999 Как мне заставить это просто напечатать (или быть в состоянии использовать это как) 11.4?

149 java  floating-point  double  precision 

Есть ли в Java что-нибудь, что представляет бесконечность для каждого числового типа данных? Как это реализовано так, что я могу делать математические операции с ним? Например int myInf = infinity; //However it is done myInf + 5; //returns infinity myInf*(-1); //returns negative infinity Я пытался использовать очень большие числа, но …

139 java  double  infinity 

Изменить: Итак, в основном то, что я пытаюсь написать, - это 1-битный хеш double. Я хочу сопоставить doubleс trueили falseс вероятностью 50/50. Для этого я написал код, который выбирает некоторые случайные числа (просто в качестве примера я хочу использовать это для данных с регулярностью и все же получать результат 50/50) …

139 java  random  double  bit-manipulation  probability 

Можно ли в следующем примере получить деление на 0 (или бесконечность)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях, конечно, не будет. Но что, если aи bочень близки, может(a-b) быть …

131 floating-point  double  floating-accuracy  ieee-754 

Прямо сейчас я пробую это: int a = round(n); где nнаходится, doubleно он не работает. Что я делаю не так?

120 java  double  int  rounding 

Есть ли функция, которая может обрезать или округлять Double? В какой-то момент в моем коде я хотел бы, чтобы число вроде: 1.23456789было округлено до1.23

118 scala  double  truncate  rounding 

У меня проблемы с форматированием десятичных знаков двойного числа. Если у меня двойное значение, например 4.0, как мне отформатировать десятичные дроби, чтобы вместо них было 4.00?

118 java  formatting  double  decimal 

Мне было интересно, есть ли способ получить количество результатов из запроса MySQL и в то же время ограничить результаты. Как работает пагинация (насколько я понимаю), сначала делаю что-то вроде query = SELECT COUNT(*) FROM `table` WHERE `some_condition` После того, как я получу num_rows (запрос), у меня будет количество результатов. Но …

115 mysql  pagination  double