アフィリエイト広告を利用しています
G-QVESCNWRVH

2024年06月12日

切り上げってなんだよー

●端数処理に付いて

切り捨ては・・・目的とする桁の一つ右の桁以下を切り捨てる
四捨五入は・・・目的とする桁の一つ右の桁が4以下(つまり0〜4)なら切り捨てる
5以上(つまり5〜9)なら切り上げる
切り上げは・・・目的とする桁の一つ右以降の桁が全て0でなければ切り上げる
って思ってた
●プロのソフトハウスのプロシージャで

でも、プロのソフトハウスに回収してもらったお客様のシステムを今私が担当
そこで変な動作をするアプリがあり、お客様から確認依頼

その中で使用されている計算用プロシージャの中の端数処理サブルーチン
そのロジックが・・・・最初に上げた定義と異なる・・・

切り上げだけ・・・目的とする桁の一つ右以降の桁が1以上(つまり1〜9)までなら切り上げる
となっていました。
●どういうことかと言うと

例えば、小数点第一位を端数として整数化する場合
10.00 ☛ 10
10.01 ☛ 10
10.09 ☛ 10
10.10 ☛ 11  ここでやっと切り上げ処理がなされた

いや、10.01も10.09も切り上げて11にすべきだろ〜
そう思って、お客様に確認すると・・・やっぱりこの変な定義のまま
●とりあえず、プロに確認

という事で、お客様に聞いた事は伏せて(笑)
ソフトハウスの担当者にメールを送った
昨日、退勤する時にはまだ返信が無かった

今日、来てるかなー(ワクワク)




人気ブログランキング
人気ブログランキング




この記事へのコメント
コメントを書く

お名前:

メールアドレス:


ホームページアドレス:

コメント: 必須項目

この記事へのトラックバックURL
https://fanblogs.jp/tb/12587826

この記事へのトラックバック
ファン
検索
<< 2024年11月 >>
          1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
最新記事
写真ギャラリー
最新コメント
タグクラウド
カテゴリーアーカイブ
プロフィール
Y.Taki@AS400さんの画像
Y.Taki@AS400
IBM AS/400で稼働するシステムの開発・追加を担当して30年以上になります。使えば使うほどこの AS/400 が好きになりました。 こんなSEがいろいろな視点から様々な業務などについて語ります。
プロフィール