ＩＢＭ　ＡＳ４００とパソコンを愛するＳＥのブログ

５月７日　連休明け
現場の方から、どうも数値が合わない・・・という連絡があった
現象を確認すると

四捨五入が上手く行っていないようだった

それは、もう読んで字のごとく（笑）
ある桁が、4以下なら切り捨て５以上なら切り上げをすること
ですが・・・落とし穴がありました。

たとえば、３．５を整数にしようとしたら、四捨五入すると　４になります。
３．８を四捨五入しても４、　４．２を四捨五入しても４ですね。
これを数学的に実現しようとすると、０．５を足して整数化すればよい・・・と考えました

実際に・・・
３．５＋０．５　＝　４．０　⇒　整数化すると　４
３．８＋０．５　＝　４．３　⇒　整数化すると　４
４．２＋０．５　＝　４．７　⇒　整数化すると　４
目論み通りですね

でも、落とし穴と言うのは、この演算方法は、マイナスの値には通用しないんです。
−３．５＋０．５　＝　−３．０　⇒　整数化すると　−３　本当は　−４であってほしい
−３．８＋０．５　＝　−３．３　⇒　整数化すると　−３　これも　−４であってほしい
こんな感じです

どうすればいいか？　答えは簡単なんですが・・・

本当は、四捨五入をするための拡張命令を使用すればよかったんですが・・・
それを知らなかったので、上記のようなしちめんどくさいことをしてしまい
結局、バグを出してしまいました。

ＲＰＧ４での具体的な命令はというと、　EVAL 命令に (H) を付けて
ＥＶＡＬ（Ｈ）　とすればよかったんです。
あ〜〜〜あ！

このバグによる被害は些少で済んだんですが
プログラム改修に１時間程度かかってしまいました
ほんとに、もう・・・恥ずかしい

穴があったら入りたい・・・
無くても穴を掘って埋まりたい（笑）
そんな感じでした

まぁ、一つ賢くなった
それで自分を慰めときます（笑）





人気ブログランキング



" allowfullscreen>