●切上げロジックの改修
プログラム本数は１２本
それを一つ一つ改修して行き・・・・
ほんと、疲れる
プロの仕事って・・・自分のやってることが本当に正しいかどうか確認すべきじゃない？
そりゃ、１＋１＝２まで確認しろって言っているわけじゃない
●切捨て、切上げ、四捨五入の意義
どうしてこんな端数処理が多用されているのかその意義をを考えてみたこともないのか
もしかしたら、有効数字なんて言っても
なにそれ？
で終わってしまうかも知れない
●電子計算機による計算
なにやらへんてこりんな言葉を使ってしまった
電子計算機とはコンピューターのこと
コンピューターで計算を行う時、考えなければならないのは
有効数字、もしくは保有桁
●有効数字とは
文字通り、値を数値で表現する時に、最上位桁から何桁まで精度的に確からしいか
例えば、鉛筆を物差しで測定したら、12.3451594 cm ありましたって言われても
信じられませんよね(笑)
良くて、12.34 cm あたりでしょう
ということは、有効数字はこの場合は４桁って事になります
●保有桁とは
コンピューターで数値を保持する変数には、大きく分けて二種類
・浮動小数点数
・固定小数点数
ですね
浮動小数点は、主に科学技術計算に使用されます
数値の幅が広いけれど、精度が数桁の値
例えば、 6.023 x 10^23 とか
8.31 x 10^3 とか
逆に固定小数点は、主に経理事務などに使用されますね
小数点第二位まであれば、正確に計算できる…とか
整数部分は、よほどのお金持ちでない限り８桁程度で十分かと
つまり、 12345678.99 とか
153.40 とか
あっ！ 長くなり過ぎたので、続きはまたあとで（笑）
人気ブログランキング
【このカテゴリーの最新記事】
-
no image
-
no image
-
no image
-
no image
-
no image
