Вопросы с тегом «decimal»

В чем разница decimal, floatи doubleв .NET? Когда кто-нибудь будет использовать один из них?

2086 .net  floating-point  double  decimal 

То, что я хотел бы, - это метод преобразования двойного числа в строку, которая округляется с использованием метода половинного увеличения - то есть, если десятичное число округляется до 5, оно всегда округляется до следующего числа. Это стандартный метод округления, которого большинство людей ожидают в большинстве ситуаций. Я также хотел бы, …

1259 java  decimal  rounding  digits 

Я хочу использовать a, Track-Barчтобы изменить Formнепрозрачность. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: Невозможно неявно преобразовать тип decimalвdouble Я попытался с помощью transи , doubleно тогда Controlне работает. Этот код прекрасно работал в прошлом проекте VB.NET.

672 c#  floating-point  type-conversion  double  decimal 

При отображении значения десятичной дроби, имеющегося в данный момент .ToString(), точные значения равны 15 десятичным знакам, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы выходные данные составляли только 2 десятичных знака. Я использую вариант .ToString()для этого?

649 c#  .net  decimal  rounding 

Я хочу сделать это с помощью Math.Roundфункции

380 c#  decimal  rounding  bankers-rounding 

Чтобы работать с десятичными типами данных, я должен сделать это с инициализацией переменной: decimal aValue = 50.0M; Что означает М-часть?

312 c#  decimal  literals 

Иногда типы данных Activerecord сбивают меня с толку. Часто Один из моих вечных вопросов, для данного случая, Я должен использовать :decimalили :float? Я часто сталкивался с этой ссылкой ActiveRecord:: decimal vs: float? , но ответы не совсем ясны, чтобы я был уверен: Я видел много потоков, в которых люди рекомендуют …

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

Я пытаюсь выяснить десятичный тип данных столбца в SQL Server. Мне нужно иметь возможность хранить значения, как 15,5, 26,9, 24,7, 9,8 и т. Д. Я назначил decimal(18, 0)тип данных столбца, но это не позволило мне сохранить эти значения. Как правильно это сделать?

273 sql  sql-server  types  decimal 

Я могу назвать три преимущества использования double(или float) вместо decimal: Использует меньше памяти. Быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. Может представлять больший диапазон чисел. Но эти преимущества, по-видимому, применимы только к интенсивным вычислениям, таким как те, которые встречаются в программном обеспечении для моделирования. Конечно, двойные …

265 c#  types  floating-point  double  decimal 

У меня есть числа с плавающей точкой, как 3.2и 1.6. Мне нужно разделить число на целое и десятичное число. Например, значение 3.2будет разделено на два числа, то есть 3и0.2 Получить целую часть легко: n = Math.floor(n); Но у меня проблемы с получением десятичной части. Я пробовал это: remainer = n …

248 javascript  floating-point  numbers  decimal  rounding 

У меня есть следующий столбец, указанный в базе данных: десятичный (5,2) Как можно это интерпретировать? В соответствии со свойствами столбца, которые отображаются в SQL Server Management Studio, я вижу, что это означает: десятичное число (точность чисел, числовой масштаб). Что означают точность и масштаб в реальном выражении? Было бы легко интерпретировать …

245 sql  database  decimal  scale  precision 

У меня есть Decimal('3.9')как часть объекта, и я хочу закодировать это в строку JSON, которая должна выглядеть следующим образом {'x': 3.9}. Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать это? JSONDecoder не принимает десятичные объекты, и предварительное преобразование в …

242 python  json  floating-point  decimal 

Попытка удалить все буквы и символы, которые не являются 0-9 и точка. Я использую, Character.isDigit()но он также удаляет десятичную дробь, как я могу также сохранить десятичную?

237 java  string  character  decimal 

Я экспериментирую с этим первым подходом к коду, но теперь выясняю, что свойство типа System.Decimal отображается на столбец sql типа decimal (18, 0). Как мне установить точность столбца базы данных?

230 c#  .net  entity-framework  ef-code-first  decimal 

Как мне преобразовать десятичную в целое?

227 c#  .net  int  decimal