３は２ではないと言う事（笑）●２わる３は
これを計算できない人はいないでしょう？
いくらですか？
●それに３をかけると？
これも計算できない人はいないでしょう？
いくらですか？
そうです ２ですよね
●でも、そうではない
いや・・・・でも実は・・・・
Excelで計算してみましょう
あれ！ うまいことごまかしていますね(笑)
それでは、小数点桁数をめちゃくちゃ増やしてみましょう
あれっ？ =2/3 の結果が途中から変に・・・
そりゃそうです！ 無限小数を有限桁数のコンピューターの変数に正確に納めることは不可能です
でも、その次の、 =2/3*3 は正しく 2 となっていますね
さすが Microsoft の開発者
●計算誤差
計算誤差はコンピューターでの計算においては必ず発生するものです
しかし、計算結果には出来るだけ誤差を生じさせない様にします
それがシステムを作成する者の務めだと私は思っています
でも、今担当しているお客様のシステムは・・・・
作った人が多分そこまで考えていなかったか、ご存じなかったか
端数誤差がもりもり表れています
なので、２を３で割ったら、 ０．６７
それに３を掛けたら、２．０１
元の数字より大きくなっているから入力エラー
これを回避する現運用は、
２を２．０１に入力し直して
エラーを回避・・・・おかしいでしょ（笑）
まぁ、運用している方たちはこういうもんだと思ってずっと運用してきているんでしょうね
なんとかしてあげたいと思って、昨日、悩みました＿|￣|○
人気ブログランキング
【このカテゴリーの最新記事】
-
no image
-
no image
-
-
-
no image
コメントありがとうございます。
どこでも同じような要件がそんざいするんですね。
私のところでも 月に億単位の売上で 4,000円、会計と一覧表で異なるから調査して欲しいと頼まれて・・・・閉口しています。
閉口したままかもしれませんが（笑）
そのうち、堪忍してもらいます。
お疲れ様です。
こういうことありますね。ちょっと違うかもですが、以前いた会社で売上の達成率表示を小数点以下１位まで％表示するのですが、売上／予算は 0.99998 でも
「予算＞売上の場合、100％と表示してはならない」と言われ閉口しました（笑）
「もう達成でええやん」って思いましたが・・・
計算誤差はどうしても出てしまいます。特に得意先等との計算方法の差は如何ともし難いです。これも前々職時代、ある得意先との売掛残高照合（先方にとっては買掛残高）にても￥1000以下まで詰めたら・・・「消費税誤差」と監査法人に報告していました。
（そこまでに帳端などで数十万は調査した上ですが）
500,000,000以上の照合で、そこまで詰めたらいいでしょうってことで堪忍してもらいました。