ＩＢＭ　ＡＳ４００とパソコンを愛するＳＥのブログ

切り捨ては・・・目的とする桁の一つ右の桁以下を切り捨てる
四捨五入は・・・目的とする桁の一つ右の桁が４以下（つまり０〜４）なら切り捨てる
５以上（つまり５〜９）なら切り上げる
切り上げは・・・目的とする桁の一つ右以降の桁が全て０でなければ切り上げる
って思ってた

でも、プロのソフトハウスに回収してもらったお客様のシステムを今私が担当
そこで変な動作をするアプリがあり、お客様から確認依頼

その中で使用されている計算用プロシージャの中の端数処理サブルーチン
そのロジックが・・・・最初に上げた定義と異なる・・・

切り上げだけ・・・目的とする桁の一つ右以降の桁が１以上（つまり１〜９）までなら切り上げる
となっていました。

例えば、小数点第一位を端数として整数化する場合
１０．００　☛　１０
１０．０１　☛　１０
１０．０９　☛　１０
１０．１０　☛　１１　　ここでやっと切り上げ処理がなされた

いや、１０．０１も１０．０９も切り上げて１１にすべきだろ〜
そう思って、お客様に確認すると・・・やっぱりこの変な定義のまま

という事で、お客様に聞いた事は伏せて（笑）
ソフトハウスの担当者にメールを送った
昨日、退勤する時にはまだ返信が無かった

今日、来てるかなー（ワクワク）





人気ブログランキング

これを計算できない人はいないでしょう？
いくらですか？

これも計算できない人はいないでしょう？
いくらですか？

そうです　２ですよね

いや・・・・でも実は・・・・
Excelで計算してみましょう

あれ！　うまいことごまかしていますね(笑)

それでは、小数点桁数をめちゃくちゃ増やしてみましょう

あれっ？　=2/3 の結果が途中から変に・・・

そりゃそうです！　無限小数を有限桁数のコンピューターの変数に正確に納めることは不可能です
でも、その次の、 =2/3*3 は正しく 2 となっていますね
さすが Microsoft の開発者

計算誤差はコンピューターでの計算においては必ず発生するものです
しかし、計算結果には出来るだけ誤差を生じさせない様にします
それがシステムを作成する者の務めだと私は思っています

でも、今担当しているお客様のシステムは・・・・
作った人が多分そこまで考えていなかったか、ご存じなかったか
端数誤差がもりもり表れています

なので、２を３で割ったら、　０．６７
それに３を掛けたら、２．０１

元の数字より大きくなっているから入力エラー

これを回避する現運用は、
２を２．０１に入力し直して
エラーを回避・・・・おかしいでしょ（笑）

まぁ、運用している方たちはこういうもんだと思ってずっと運用してきているんでしょうね
なんとかしてあげたいと思って、昨日、悩みました＿|￣|○



人気ブログランキング