地球の半径から１海里を計算してみましょう
地球の赤道半径は R = 6378 km です。だから地球をぐるりと取り巻く周の長さは
L = 2×3.14×6378 = 40053.84km
となります。これを 360 で割ると緯度１°あたりの距離は
緯度１°= 40054/360 = 111.26km
と計算できますね。でも国際海里は「赤道における緯度１分に相当する距離」と定義されています。１分（１′）は１度（１°）の 1/60 ですから、上の値をさらに60で割りますと、
緯度１′= 111.26 ÷ 60 = 1.8543km = 1854m
という値がでてきます。しかし正確な定義である 1852m とは少しずれていますね。どうしてこんな誤差が生じたのでしょう？ それは地球が完全な球体ではなく、自転の影響でほんの少しだけ横に膨れた楕円体だからです。さらに正確に言えば地球は表面がでこぼこしていますから、楕円体ですらないはずです。でもそんな細かいことまで言っていては何も計算できないので、近似的にベッセル楕円体という形が用いられます。
その計算はベクトル解析と第２種完全楕円積分 E(k) を知っていれば計算できます。理数系の方は肩慣らしに計算してみてください。ここでは式だけ書いておきます。
ベッセル楕円体の諸定数
長軸の長さ：a = 6377397.155 m
短軸の長さ：b = 6356078.963 m
円周の長さ：L = 4aE(k)
計算にはExcelを使うことをお勧めします。関数電卓だとちょっと面倒です。E(k)は級数ですが、第４項で打ち切って十分な精度が得られます。答えは1852.01033mです。
海里のついでに航海で使用されるノット（kt）も覚えておきましょう。１ノットは１時間に１海里進む速度のことです。つまり、1kt = 1.852km/h です。気象予報の風速にも kt が使われます。
