Utiliser la formule de Pythagore sur des positions données en latitude et longitude n'a pas autant de sens que, par exemple, calculer l'aire d'un cercle en utilisant la formule d'un carré: bien qu'il produise un nombre, il n'y a aucune raison de supposer que cela devrait fonctionner.
Bien qu'à petite échelle, toute surface lisse ressemble à un plan, la précision de la formule de Pythagore dépend des coordonnées utilisées. Lorsque ces coordonnées sont la latitude et la longitude sur une sphère (ou ellipsoïde), nous pouvons nous attendre à ce que
Les distances le long des lignes de longitude seront raisonnablement précises.
Les distances le long de l'équateur seront raisonnablement précises.
Toutes les autres distances seront erronées, en proportion approximative des différences de latitude et de longitude.
L'erreur dépend du point de départ et d'arrivée des calculs de distance. Cependant, parce que la sphère et l'ellipsoïde ont une symétrie circulaire autour de l'axe, l'erreur ne dépend que de la différence des longitudes, donc pour étudier cette erreur, nous pourrions aussi bien prendre le point d'origine pour être au premier méridien. Parce que la sphère et l'ellipsoïde sont symétriques sous une réflexion nord-sud, nous n'avons qu'à étudier les points d'origine dans l'hémisphère sud. Pour un tel point, nous pouvons dessiner une carte de contour de l'erreur relative, égale à [Calcul de Pythagore] / [Distance vraie].
La formule de Pythagore, utilisant le rayon moyen de la terre, est
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
où dx est la différence de longitudes et dy est la différence de latitudes, toutes deux en degrés. (La différence dans les valeurs de longitude est réduite modulo 360 pour donner la valeur correcte de dx lors du franchissement de l'antiméridien; ne pas le faire introduirait des erreurs artificiellement importantes qui ne nous disent rien sur la formule de Pythagore elle-même.)
Les graphiques suivants montrent l'erreur relative par rapport à la distance correcte sur l'ellipsoïde WGS 84 pour des latitudes de -70 à 0 par incréments de 10 degrés. La coordonnée horizontale est la différence de longitudes et la coordonnée verticale est la latitude de la destination. Les régions claires ont une erreur relativement petite: les lignes de contour sont à 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2, etc. (Les zones d'un blanc pur dans les coins sont des endroits où l'erreur dépasse la plage de ces contours .) Les points rouges indiquent le point d'origine.
Les bandes blanches verticales témoignent de l'exactitude des attentes (1): les distances pythagoriciennes sont précises lorsqu'il y a une petite différence de longitudes. Les bandes blanches horizontales aux basses latitudes confirment l'attente (2): près de l'équateur, les distances horizontales sont raisonnablement précises. Sinon, comme en témoignent les vastes régions plus sombres, à toutes les autres distances, la formule de Pythagore est mauvaise.
Nous pouvons faire des estimations quantitatives du maximumerreur atteinte pour des paires de points voisins (à, disons, à quelques centaines de kilomètres les uns des autres). L'échelle - en utilisant une valeur appropriée pour le rayon - est vraie le long du méridien mais le long d'un cercle de latitude, elle se trompe approximativement de la sécante de la latitude. Par exemple, à une latitude de 40 degrés, la sécante est de 1,31, ce qui implique que la formule de Pythagore donnera des distances d'environ 31% trop grandes dans la direction est-ouest. (Cela est évident dans le tracé de contour supérieur droit, pour un point d'origine à -40 degrés de latitude, où la région immédiatement est-ouest du point rouge se situe entre les contours 1,2 et 1,5.) De courtes distances dans toutes les autres directions seront trop grand dans une certaine mesure entre 0% et 31%; des distances plus longues peuvent encore plus errer (comme le montrent les courbes de niveau).