Использование формулы Пифагора для позиций, заданных по широте и долготе, имеет такой же смысл, как, скажем, вычисление площади круга с использованием формулы для квадрата: хотя оно дает число, нет никаких оснований полагать, что оно должно работать.
Хотя в небольших масштабах любая гладкая поверхность выглядит как плоскость, точность формулы Пифагора зависит от используемых координат . Когда эти координаты являются широтой и долготой на сфере (или эллипсоиде), мы можем ожидать, что
Расстояния вдоль линий долготы будут достаточно точными.
Расстояния вдоль экватора будут достаточно точными.
Все остальные расстояния будут ошибочными в грубой пропорции к разнице широты и долготы.
Ошибка зависит от начальной и конечной точки расчета расстояния. Тем не менее, поскольку сфера и эллипсоид имеют круговую симметрию вокруг оси, ошибка зависит только от разности долгот, поэтому для изучения этой ошибки мы могли бы также взять точку начала на начальном меридиане. Поскольку сфера и эллипсоид симметричны под отражением север-юг, нам нужно только изучить точки происхождения в южном полушарии. Для любой такой точки мы можем нарисовать контурную карту относительной ошибки, равной [пифагорейскому вычислению] / [истинному расстоянию].
Формула Пифагора, используя средний радиус Земли, имеет вид
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
где dx - это разница в долготах, а dy - это разница в широтах, как в градусах. (Разница в значениях долготы уменьшается по модулю 360, чтобы дать правильное значение dx при пересечении антимеридиана; в противном случае возникнут искусственно большие ошибки, которые ничего не говорят нам о самой формуле Пифагора.)
На следующих графиках показана относительная ошибка по сравнению с правильным расстоянием на эллипсоиде WGS 84 для широт от -70 до 0 с шагом 10 градусов. Горизонтальная координата - это разница долгот, а вертикальная координата - широта пункта назначения. Светлые области имеют относительно небольшую ошибку: линии контуров имеют значения 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2 и т. Д. (Чистые белые области в углах - это места, где ошибка выходит за пределы диапазона этих контуров. .) Красные точки показывают точку происхождения.
Вертикальные белые полосы свидетельствуют о правильности ожидания (1): пифагорейские расстояния точны, когда есть небольшая разница в долготах. Горизонтальные белые полосы в низких широтах подтверждают ожидание (2): вблизи экватора горизонтальные расстояния достаточно точны. В противном случае, как свидетельствуют обширные темные области, на всех других расстояниях формула Пифагора является плохой.
Мы можем сделать количественные оценки максимумаошибка достигнута для пар соседних точек (скажем, в нескольких сотнях километров друг от друга). Шкала - с использованием подходящего значения для радиуса - истинна вдоль меридиана, но по кругу широты она ошибается примерно по секущей широте. Например, на широте 40 градусов секущий равен 1,31, подразумевая, что пифагорейская формула даст расстояния примерно на 31% слишком большие в направлении восток-запад. (Это видно на графике верхнего правого контура для точки происхождения на широте -40 градусов, где область, расположенная непосредственно к востоку-западу от красной точки, находится между 1,2 и 1,5 контурами.) Короткие расстояния во всех других направлениях будут слишком большой на некоторое количество между 0% и 31%; большие расстояния могут ошибаться еще больше (как показывают графики контуров).