Вопросы с тегом «math»

При сравнении значений с плавающей запятой на равенство существует два разных подхода: NaNне равный самому себе, что соответствует спецификации IEEE 754 . NaNбыть равным самому себе, что обеспечивает математическое свойство рефлексивности, которое необходимо для определения отношения эквивалентности Встроенный в IEEE с плавающей точкой типа в C # ( floatи double) …

9 c#  .net  math  floating-point 

В настоящее время я читаю «Конец ошибки - Unum Computing» Джона Густафсона ( Youtube ). Что я до сих пор не уверен, так это то, как дела, обработанные в IEEE с отрицательным знаком нуля , обрабатываются с помощью unums. Таким образом, прежде всего, unums позволяют представлять определенные точные значения (аналогично …

9 math  floating-point 

Проходя операцию по модулю (проспект, в который я вошел, исследуя разницу между remиmod ), я наткнулся на: В математике результатом операции по модулю является остаток от евклидова деления. Однако возможны и другие соглашения. Компьютеры и калькуляторы имеют различные способы хранения и представления чисел; таким образом, их определение операции по модулю …

9 programming-languages  language-design  math  arithmetic  design-decisions 

Возможно ли или даже возможно использовать реляционную алгебру и / или реляционное исчисление в форме доказательств для проверки / проверки правильности операторов, функций и хранимых процедур SQL? Мне кажется, что это должно быть по крайней мере возможно, но я не знаю, есть ли какая-то деталь, которую я упускаю, которая делает …

9 testing  sql  math  relational-database 

Недавно я глубоко заинтересовался Хаскеллом. Пытаясь изучить новые концепции (например, ключевое слово forall и монаду ST ) и систему типов Хаскеля в целом, я постоянно сталкиваюсь с понятиями из теории категорий и лямбда-исчисления . Итак, мне интересно: Какие другие разделы математики важны для глубокого понимания системы типов Хаскелла? Могу ли …

9 programming-languages  functional-programming  math  haskell  type-systems