Вопросы с тегом «numbers»

Часто в моем опыте программирования мне нужно принять решение, использовать ли мне float или double для моих реальных чисел. Иногда я иду на поплавок, иногда я иду на двойной, но на самом деле это кажется более субъективным. Если бы мне пришлось встать на защиту моего решения, я бы, вероятно, не …

194 c++  c  floating-point  numbers 

В каждом месте, где я смотрел, написано, что doubleоно превосходит floatпочти во всех отношениях. floatбыл сделан устаревшим doubleв Java, так почему он все еще используется? Я много программирую на Libgdx, и они вынуждают вас использовать float(deltaTime и т. Д.), Но мне кажется, что с ними doubleпроще работать с точки зрения …

84 java  memory  floating-point  numbers 

Один из моих друзей задал этот вопрос интервью - «Существует постоянный поток чисел, поступающих из некоторого бесконечного списка чисел, из которого вам необходимо поддерживать структуру данных, чтобы возвращать первые 100 старших чисел в любой заданный момент времени. Предположим, что все числа являются только целыми числами». Это просто, вам нужно держать …

53 numbers  big-o  puzzles 

Хорошо, я чувствую себя глупо, спрашивая об этом - но в статье Джеффа: «Правильный выбор экрана телефона для интервью», изначально изложенной в 5 основных вопросах экрана телефона : Они не должны смотреть тупо на вас, когда вы спрашиваете с 2 ^ 16. Это особый номер. Они должны это знать. Я …

48 numbers  binary 

Языки программирования, такие как Scheme (R5RS) и Python ( см. Этот Вопрос ), округляются до ближайшего четного целого числа, когда значение находится точно между окружающими целыми числами. В чем причина этого? Есть ли математическая идея, которая облегчает рассуждение о следующих вычислениях? (R5RS ссылается на стандарт IEEE с плавающей точкой как …

44 scheme  numbers  numeric-precision  python-3.x 

C#имеет decimalтип, который используется для чисел, которые нуждаются в точном представлении в базе 10. Например, 0.1не может быть представлен в базе 2 (например, floatи double) и всегда будет приближенным при хранении в переменных этих типов. Мне было интересно, возможен ли обратный факт. Существуют ли числа, которые не могут быть представлены …

42 c#  numbers  floating-point 

В новостях была история о человеке, чей счет Paypal был случайно зачислен на сумму 92 233 720 368 547 800 долларов США. Откуда этот номер? Какая программная ошибка может привести к этому числу?

36 errors  numbers  payment 

Недавно, когда я рассказывал о битве «Большой против Литва», один из студентов спросил, решено ли это, и я понял, что не знаю. Глядя на статью в Википедии , кажется, что наиболее популярные в настоящее время пары ОС / архитектура используют Little Endian, но этот протокол Интернета определяет Big Endian для …

34 standards  protocol  computer-architecture  numbers  endianness 

Этот вопрос о том, сколько бит требуется для хранения диапазона. Или, другими словами, для данного числа битов, какой максимальный диапазон может быть сохранен и как? Представьте, что мы хотим сохранить поддиапазон в диапазоне 0-255. Так например 45-74. Мы можем сохранить приведенный выше пример в виде двух неподписанных байтов, но мне …

29 data-structures  numbers  compression 

Компьютеры имеют проблемы с хранением дробных чисел, где знаменатель - это нечто иное, чем решение 2 ^ x. Это потому, что первая цифра после десятичной дроби стоит 1/2, вторая 1/4 (или 1 / (2 ^ 1) и 1 / (2 ^ 2)) и т. Д. Зачем иметь дело со всевозможными …

24 numbers  numeric-precision 

Этот вопрос был перенесен из переполнения стека, потому что на него можно ответить в Software Engineering Stack Exchange. Мигрировал 8 лет назад . Я просто размышлял о rand()функции php и думал о том, как я мог бы ее переделать, и я пришел в полный оцепенение. Как работают генераторы случайных чисел?

23 random  numbers 

Недавно я разработал модуль временных рядов, где мои временные ряды по сути являются SortedDictionnary<DateTime, double>. Теперь я хотел бы создать модульные тесты, чтобы убедиться, что этот модуль всегда работает и дает ожидаемый результат. Обычной операцией является вычисление производительности между точками во временном ряду. Поэтому я делаю временные ряды с, скажем, …

20 .net  unit-testing  numbers 

В Java есть примитивные типы для byte, short, intи longи то же самое для floatи double. Почему необходимо, чтобы человек установил, сколько байтов должно использоваться для примитивного значения? Разве размер не может быть определен динамически в зависимости от того, насколько большим было переданное число? Есть две причины, по которым я …

20 java  language-design  data-types  numbers 

В цифрах очень важно уметь определять нестабильные схемы и улучшать их стабильность. Как определить нестабильные вычисления с плавающей запятой? Я работаю над очень сложным моделированием, в котором многие числовые схемы работают вместе, и я ищу методику, позволяющую выявить ее слабые стороны. Я работаю над физической моделью, включающей дифференциальные уравнения. С …

15 numbers  numeric-precision 

Какой самый быстрый способ найти первое (наименьшее) целое число, которого нет в данном списке несортированных целых чисел (и которое больше, чем наименьшее значение в списке)? Мой примитивный подход - сортировка и пошаговый просмотр списка, есть ли лучший способ?

14 algorithms  search  list  numbers