Вопросы с тегом «arithmetic»

Мы все знаем, 0/0есть Undefinedи возвращает ошибку, если бы я поместил ее в калькулятор, и если бы я создал программу (по крайней мере, на C), ОС прервала бы ее, когда я попытался бы разделить на ноль. Но что меня интересует, так это то, что компьютер даже пытается делить на ноль …

59 math  error-handling  arithmetic 

2¹⁶-1 & 2⁵ = 2⁵ (или? Очевидно?) Разработчик спросил меня сегодня, что поразрядно 65535 & 32 то есть 2¹⁶-1 & 2⁵ =? Сначала я подумал, что спонтанно 32, но мне показалось, что легко, после чего я думал несколько минут, а затем ответил 32. 32 кажется правильным, но как? 65535 = …

11 numbers  binary  bitwise-operators  32-bit  arithmetic 

Для не-британцев в аудитории есть сегмент дневного игрового шоу, где у участников есть набор из 6 чисел и случайно сгенерированное целевое число. Они должны достичь целевого числа, используя любое (но не обязательно все) из 6 чисел, используя только арифметические операторы. Все вычисления должны привести к положительным целым числам. Пример: Youtube: …

10 algorithms  arithmetic 

Проходя операцию по модулю (проспект, в который я вошел, исследуя разницу между remиmod ), я наткнулся на: В математике результатом операции по модулю является остаток от евклидова деления. Однако возможны и другие соглашения. Компьютеры и калькуляторы имеют различные способы хранения и представления чисел; таким образом, их определение операции по модулю …

9 programming-languages  language-design  math  arithmetic  design-decisions