●端数処理に付いて
切り捨ては・・・目的とする桁の一つ右の桁以下を切り捨てる
四捨五入は・・・目的とする桁の一つ右の桁が4以下(つまり0〜4)なら切り捨てる
5以上(つまり5〜9)なら切り上げる
切り上げは・・・目的とする桁の一つ右以降の桁が全て0でなければ切り上げる
って思ってた
●プロのソフトハウスのプロシージャで
でも、プロのソフトハウスに回収してもらったお客様のシステムを今私が担当
そこで変な動作をするアプリがあり、お客様から確認依頼
その中で使用されている計算用プロシージャの中の端数処理サブルーチン
そのロジックが・・・・最初に上げた定義と異なる・・・
切り上げだけ・・・目的とする桁の一つ右以降の桁が1以上(つまり1〜9)までなら切り上げる
となっていました。
●どういうことかと言うと
例えば、小数点第一位を端数として整数化する場合
10.00 ☛ 10
10.01 ☛ 10
10.09 ☛ 10
10.10 ☛ 11 ここでやっと切り上げ処理がなされた
いや、10.01も10.09も切り上げて11にすべきだろ〜
そう思って、お客様に確認すると・・・やっぱりこの変な定義のまま
●とりあえず、プロに確認
という事で、お客様に聞いた事は伏せて(笑)
ソフトハウスの担当者にメールを送った
昨日、退勤する時にはまだ返信が無かった
今日、来てるかなー(ワクワク)
人気ブログランキング
【このカテゴリーの最新記事】
-
no image
-
no image
-
no image
-
no image
-
no image