地球の半径から1海里を計算してみましょう
地球の赤道半径は R = 6378 km です。だから地球をぐるりと取り巻く周の長さは
L = 2×3.14×6378 = 40053.84km
となります。これを 360 で割ると緯度1°あたりの距離は
緯度1°= 40054/360 = 111.26km
と計算できますね。でも国際海里は「赤道における緯度1分に相当する距離」と定義されています。1分(1′)は1度(1°)の 1/60 ですから、上の値をさらに60で割りますと、
緯度1′= 111.26 ÷ 60 = 1.8543km = 1854m
という値がでてきます。しかし正確な定義である 1852m とは少しずれていますね。どうしてこんな誤差が生じたのでしょう? それは地球が完全な球体ではなく、自転の影響でほんの少しだけ横に膨れた楕円体だからです。さらに正確に言えば地球は表面がでこぼこしていますから、楕円体ですらないはずです。でもそんな細かいことまで言っていては何も計算できないので、近似的にベッセル楕円体という形が用いられます。
その計算はベクトル解析と第2種完全楕円積分 E(k) を知っていれば計算できます。理数系の方は肩慣らしに計算してみてください。ここでは式だけ書いておきます。
ベッセル楕円体の諸定数
長軸の長さ:a = 6377397.155 m
短軸の長さ:b = 6356078.963 m
円周の長さ:L = 4aE(k)
画像 (C)F@N Communications, Inc.