Вопросы с тегом «integer-arithmetic»

У меня есть этот сценарий Bash, и у меня возникла проблема в строке 16. Как я могу взять предыдущий результат в строке 15 и добавить его в переменную в строке 16? #!/bin/bash num=0 metab=0 for ((i=1; i<=2; i++)); do for j in `ls output-$i-*`; do echo "$j" metab=$(cat $j|grep EndBuffer|awk …

567 bash  integer-arithmetic  mathematical-expressions 

Я пытаюсь получить сумму 1 + 2 + ... + 1000000000, но я получаю смешные результаты в PHP и Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; …

192 php  node.js  precision  integer-overflow  integer-arithmetic 

Я искал источник sorted_containers и был удивлен, увидев эту строку : self._load, self._twice, self._half = load, load * 2, load >> 1 Вот loadцелое число. Зачем использовать битовый сдвиг в одном месте, а умножение в другом? Представляется разумным, что сдвиг битов может быть быстрее, чем интегральное деление на 2, но …

150 python  python-3.x  performance  bit-shift  integer-arithmetic 

У меня есть несколько циклов, которые мне нужны в моей программе. Я могу написать псевдокод, но я не совсем уверен, как писать их логически. Я нуждаюсь - if (num is a multiple of 10) { do this } if (num is within 11-20, 31-40, 51-60, 71-80, 91-100) { do this …

104 c++  comparison  conditional-statements  integer-arithmetic 

Я наткнулся на код человека, который, кажется, полагает, что существует проблема с вычитанием беззнакового целого числа из другого целого числа того же типа, когда результат был бы отрицательным. Так что такой код будет неправильным, даже если он работает на большинстве архитектур. unsigned int To, Tf; To = getcounter(); while (1) …

100 c  standards  unsigned  integer-arithmetic 

Пусть a, b и c не большие положительные целые числа. Всегда ли a / b / c равно a / (b * c) с целочисленной арифметикой C #? Для меня в C # это выглядит так: int a = 5126, b = 76, c = 14; int x1 = a …

81 c#  math  integer  integer-arithmetic