浮動小数点の丸め・表現誤差
バグ・不具合を報告
十進文字列の二進浮動小数点表現と、丸めを含む1回の四則演算の数値誤差を調べる。
入力すると自動で計算します。Enterで次の項目へ進めます。次の入力欄を選んで進めます。
選択内容に応じて、残りの入力項目を案内します。
計算結果
—
- 絶対誤差
- —
- 相対誤差
- —
- 比較する理論値(演算時は概数)
- —
- ビット列(16進)
- —
- 表現区分
- —
必要な値を入力すると自動で計算します。
この計算機は使いやすかったですか?
回答はサイト改善のために保存します。入力値・計算結果は送りません。
ありがとうございます。よかったら、上の共有ボタンからこの計算機を紹介しませんか?
計算方法・適用範囲・出典
計算方法
入力した十進数は先に正確な有理数で保持する。選択精度で仮数を2進に丸める(最近接・ちょうど中間なら偶数)。四則演算は両入力を選択精度に格納後、厳密な一回の演算結果を同じ精度で丸める。絶対誤差=|格納結果−十進入力に対する厳密な理論値|。相対誤差=絶対誤差÷|理論値|。理論値0では相対誤差は定義しない。結果の十進表示は内部の2進値を十進で厳密に記したものとは限らず、誤差値は有理数差分から15桁の科学表記へ表示丸めする。
格納された計算値の十進表示、絶対誤差、相対誤差、ビット列、表現区分と比較用の理論値。
計算例(架空の数値)
十進数0.1をbinary64に格納した場合、十進表示は0.1ですが、ビット列は0x3FB999999999999A、絶対誤差は約5.55111512312578e-18です。0.1+0.2はbinary64で0.30000000000000004となります。
適用対象と限界
有限な十進実数を最大2つ用いる、binary32/binary64の有限値への格納と基本的な加減乗除。十進浮動小数点形式、他の丸めモード、超越関数、複合式・逐次演算、NaN・Infinity演算、FMA、任意精度形式は扱わない。除算で分母が格納後に0となる場合とオーバーフロー結果は計算結果を表示しない。。
方法と出典
方法:IEEE 754-2019(roundTiesToEven)/ECMA-262 16th ed. (2025) §6.1.6.1, §21.3.2.17 に基づく binary32/binary64 v1。データ記録日:2026-11-13。