2018年03月29日
《その351》浮動小数点数の書式
浮動小数点数の書式
浮動小数点数の書式指定は、形式と精度で行います。
形式と精度は、
・scientific形式(精度は小数点以下の桁数最大値)
・fixed形式(精度は小数点以下の桁数最大値)
・形式指定無し(精度は全体の桁数最大値)
のようになっています、
double型浮動小数点数の内部表現では、仮数部分の2進数桁数は、
先頭の 1 を含めて 53 です(於:一般的環境下)。
したがって、double型浮動小数点数の 10進数での有効数字桁数は、最大でおよそ、
static_cast<int>(53 *log10(2.0)) = 15
です。
#include <math.h>
#include <iostream>
using namespace std;
int main() {
cout << " double型 浮動小数点数の内部表現では、\n"
"仮数部分の2進数桁数は、先頭の 1 を含\n"
"めて 53 です。\n";
cout << " したがって、double型浮動小数点数 の\n"
"10進数有効数字桁数は、最大でおよそ、\n"
"static_cast<int>(53 *log10(2.0)) = ";
cout << static_cast<int>(53 * log10(2.0)) << "\nです。\n";
cout << "\n------------------------\n";
cout.ios_base::precision(10); // 精度
double x = 123.456 * 123.456;
cout << "123.456 * 123.456 の計算結果\n";
cout << "精度の指定 : 10\n";
cout.setf(ios_base::scientific, ios_base::floatfield);
cout << "◇scientific形式:" << x << '\n';
cout.setf(ios_base::fixed, ios_base::floatfield);
cout << "◇fixed形式:" << x << '\n';
// 第1引数の 0 で、直前の fixed指定を解除
cout.setf(0, ios_base::floatfield);
cout << "◇通常表示:" << x;
cout << "\n------------------------\n";
}
この記事へのコメント
コメントを書く
この記事へのトラックバックURL
https://fanblogs.jp/tb/7489953
※ブログオーナーが承認したトラックバックのみ表示されます。
この記事へのトラックバック