Вопросы с тегом «floating-point»

Я пытался проверить мои фильтры на растре DEM для распознавания образов, и это всегда приводит к отсутствию последних строк и столбцов (например, 20) . Я пытался с библиотекой PIL, загрузка изображения. Тогда с NumPy. Выход такой же. Я подумал, что что-то не так с моими циклами, при проверке значений в …

26 python  raster  gdal  numpy  floating-point 

Существует ли базовое или вводное исследование, которое изучает и сравнивает точность пространственных данных при работе с различной точностью ввода данных, например, с 1, 2, ... десятичными знаками? с различными реализациями с плавающей запятой (float, double)? с данными около экватора по сравнению с данными около полюсов? с географическими расстояниями, вычисленными с …

22 gps  distance  wgs84  accuracy  floating-point 

Я случайно обнаружил, как ArcMap отображает специальные значения с плавающей запятой для пользователя. + ∞ (положительная бесконечность) отображается как 1.#INF –∞ (отрицательная бесконечность) предположительно будет отображаться как -1.#INF- я не проверял это. NaN (не число) отображается как выровненный по правому краю <Null>- не путать с выровненным по левому краю <Null>, …

10 arcgis-desktop  arcmap  arcobjects  definition-query  floating-point