Вопросы с тегом «floating-point»

Часто в моем опыте программирования мне нужно принять решение, использовать ли мне float или double для моих реальных чисел. Иногда я иду на поплавок, иногда я иду на двойной, но на самом деле это кажется более субъективным. Если бы мне пришлось встать на защиту моего решения, я бы, вероятно, не …

194 c++  c  floating-point  numbers 

В каждом месте, где я смотрел, написано, что doubleоно превосходит floatпочти во всех отношениях. floatбыл сделан устаревшим doubleв Java, так почему он все еще используется? Я много программирую на Libgdx, и они вынуждают вас использовать float(deltaTime и т. Д.), Но мне кажется, что с ними doubleпроще работать с точки зрения …

84 java  memory  floating-point  numbers 

Меня смущает, почему мы заботимся о разных представлениях для положительного и отрицательного нуля. Я смутно припоминаю чтение утверждений, что наличие отрицательного нулевого представления чрезвычайно важно в программировании, которое включает в себя комплексные числа. У меня никогда не было возможности написать код, включающий комплексные числа, поэтому я немного озадачен тем, почему …

64 math  floating-point 

Я знаю, что у арифметики с плавающей точкой есть проблемы точности. Я обычно преодолеваю их, переключаясь на фиксированное десятичное представление числа или просто игнорируя ошибку. Однако я не знаю, каковы причины этой неточности. Почему существует так много проблем округления с числами с плавающей запятой?

62 floating-point  numeric-precision 

C#имеет decimalтип, который используется для чисел, которые нуждаются в точном представлении в базе 10. Например, 0.1не может быть представлен в базе 2 (например, floatи double) и всегда будет приближенным при хранении в переменных этих типов. Мне было интересно, возможен ли обратный факт. Существуют ли числа, которые не могут быть представлены …

42 c#  numbers  floating-point 

Есть ли альтернатива битам как наименьшей единице данных? Что-то, что не будет только 0 или 1, но на самом деле содержит много возможных состояний между ними? Разве не было бы более естественным хранить такие поплавки?

42 data  binary  floating-point  byte  bit 

Исследуя точность чисел с плавающей точкой, я видел в некоторых местах утверждение, подобное " float и double являются ( предназначены для / часто используются в ) инженерных и научных расчетов " Насколько я понимаю, сила чисел с плавающей точкой и двойников - это количество памяти, которое они используют для своей …

33 floating-point  numeric-precision 

Например, я хочу показать список кнопок с 0,0,5, ... 5, которые переходят на каждые 0,5. Для этого я использую цикл for, и у кнопки STANDARD_LINE другой цвет: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } В этом случае не должно быть ошибок округления, поскольку каждое …

31 javascript  coding-style  floating-point 

Я смотрел http://www.joelonsoftware.com/items/2011/06/27.html и смеялся над шуткой Джона Скита о 0,3, а не 0,3. Лично у меня никогда не было проблем с плавающими / десятичными / двойными числами, но потом я помню, что я выучил 6502 очень рано и никогда не нуждался в плаваниях в большинстве моих программ. Единственный раз, …

29 floating-point 

Когда я добрался до этой части, я читал статью от Microsoft о расширении конверсий и строгости опций. Следующие преобразования могут потерять точность: Целое число в одиночное Длинный в одинарный или двойной Десятичный в одинарный или двойной Однако эти преобразования не теряют информацию или величину. ..но согласно другой статье, касающейся типов …

27 vb.net  floating-point 

Это не повторяющийся вопрос, поскольку я читал предыдущий вопрос. Может ли кто-нибудь помочь мне в понимании how float values are stored in the memory. Я сомневаюсь, что здесь значения с плавающей запятой содержат ' .'( for example 3.45), как '.'будет отображаться в памяти? Может кто-нибудь, пожалуйста, уточнить меня с диаграммой?

20 c  memory  floating-point 

При создании приложения, которое занимается множеством математических вычислений, я столкнулся с проблемой, заключающейся в том, что определенные числа вызывают ошибки округления. Хотя я понимаю, что число с плавающей запятой не является точным , проблема заключается в том, как мне поступить с точными числами, чтобы убедиться, что при вычислениях на них …

18 floating-point  numeric-precision 

Допустим, у нас есть следующий класс Python (проблема существует в Java точно так же с equalsи hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees где degreesтемпература в Кельвинах как поплавок. Теперь я хотел бы реализовать тестирование на равенство и хэширование Temperatureтаким образом, чтобы сравнивает поплавки с разницей в эпсилон …

15 java  python  hashing  floating-point 

Насколько я помню, программируя, меня учили не сравнивать числа с плавающей запятой на равенство. Теперь, читая Программирование на Lua о numberтипе Lua , я обнаружил следующее: Тип числа представляет действительные числа (числа с плавающей запятой двойной точности). У Lua нет целочисленного типа, так как он не нужен. Существует широко распространенное …

11 lua  floating-point 

Рассматривая реализацию функции другого программиста для вычисления CDF нормального распределения , я предложил либо заменить всю реализацию встроенными функциями Python, либо использовать SciPy, общую научную библиотеку. Другой программист отметил, что ни math.erfc()не scipy.stats.norm.cdf()дает никаких точных гарантий в своей документации. Поэтому я должен быть более осторожным при замене алгоритма аппроксимации (который …

9 documentation  math  floating-point  numeric-precision