浮動小数点の丸め・表現誤差

十進文字列の二進浮動小数点表現と、丸めを含む1回の四則演算の数値誤差を調べる。

入力すると自動で計算します。Enterで次の項目へ進めます。次の入力欄を選んで進めます。

選択内容に応じて、残りの入力項目を案内します。

計算する内容

例:0.1、-1.25、1e-30。最大80桁、指数は小数位置調整後±350以内。


計算結果

必要な値を入力すると自動で計算します。

お気に入り一覧

計算方法・適用範囲・出典

計算方法

入力した十進数は先に正確な有理数で保持する。選択精度で仮数を2進に丸める(最近接・ちょうど中間なら偶数)。四則演算は両入力を選択精度に格納後、厳密な一回の演算結果を同じ精度で丸める。絶対誤差=|格納結果−十進入力に対する厳密な理論値|。相対誤差=絶対誤差÷|理論値|。理論値0では相対誤差は定義しない。結果の十進表示は内部の2進値を十進で厳密に記したものとは限らず、誤差値は有理数差分から15桁の科学表記へ表示丸めする。

格納された計算値の十進表示、絶対誤差、相対誤差、ビット列、表現区分と比較用の理論値。

計算例(架空の数値)

十進数0.1をbinary64に格納した場合、十進表示は0.1ですが、ビット列は0x3FB999999999999A、絶対誤差は約5.55111512312578e-18です。0.1+0.2はbinary64で0.30000000000000004となります。

適用対象と限界

有限な十進実数を最大2つ用いる、binary32/binary64の有限値への格納と基本的な加減乗除。十進浮動小数点形式、他の丸めモード、超越関数、複合式・逐次演算、NaN・Infinity演算、FMA、任意精度形式は扱わない。除算で分母が格納後に0となる場合とオーバーフロー結果は計算結果を表示しない。。

方法と出典

方法:IEEE 754-2019(roundTiesToEven)/ECMA-262 16th ed. (2025) §6.1.6.1, §21.3.2.17 に基づく binary32/binary64 v1。データ記録日:2026-11-13。