量子化スケール・ゼロ点・復元誤差
バグ・不具合を報告
モデルのper-tensor整数量子化におけるスケール・ゼロ点と、値の丸め・飽和・復元誤差を確かめる。
入力値と校正範囲は同じ尺度で指定します。復元誤差は単一値の誤差であり、モデル全体の精度を示しません。
入力すると自動で計算します。Enterで次の項目へ進めます。次の入力欄を選んで進めます。
必要な入力・選択は5項目です。
計算結果
—
- 復元値
- —
- 復元誤差(復元値−入力値)
- —
- 絶対復元誤差
- —
- スケール
- —
- ゼロ点(整数)
- —
- 量子化整数の範囲
- —
- 復元可能な両端値
- —
必要な値を入力すると自動で計算します。
この計算機は使いやすかったですか?
回答はサイト改善のために保存します。入力値・計算結果は送りません。
ありがとうございます。よかったら、上の共有ボタンからこの計算機を紹介しませんか?
計算方法・適用範囲・出典
計算方法
対称:qmin=−2^(b−1), qmax=2^(b−1)−1, s=2×max(|最小値|,|最大値|)/(qmax−qmin), z=0。非対称:qmin=0, qmax=2^b−1, a=min(0,最小値), c=max(0,最大値), s=(c−a)/(qmax−qmin), z=clamp(roundEven(qmin−a/s),qmin,qmax)。範囲が全て0ならs=1,z=0。量子化整数q=clamp(roundEven(x/s)+z,qmin,qmax)、復元値x̂=(q−z)s、復元誤差=x̂−x。roundEvenは0.5で偶数へ丸めます。
整数範囲、スケール、ゼロ点、量子化整数、復元値、符号付き/絶対復元誤差、復元可能な両端値。
計算例(架空の数値)
合成例:4 bit・非対称、最小値−8、最大値7ではs=1、z=8。入力値3は整数11に量子化され、復元値3、誤差0。入力値9は整数15で飽和し、復元値7、誤差−2。
適用対象と限界
モデル重みや活性値の整数アフィン量子化を単一スケールで試算する場合。per-channel・ブロック量子化、非線形/浮動小数量子化、学習・校正データ推定、実装環境のfloat32誤差、モデル精度・推論速度は算定しない。対称方式は符号付き全コード域(例:int8 -128~127)、非対称方式は符号なし全コード域(例:uint8 0~255)を用いる。。
採用した方式
- 対称(符号付き)/非対称(符号なし)整数アフィン量子化(PyTorch MinMaxObserver / ONNX QuantizeLinear・DequantizeLinear(v28)):対象範囲 per-tensorの単一スカラー、2/4/8/16-bit整数。ゼロを含む校正範囲、最近接偶数丸め/適用地域 global
方法と出典
方法:PyTorch MinMaxObserver式・ONNX QuantizeLinear/DequantizeLinear(opset 28)に基づくscalarモデル v1。データ記録日:2026-11-13。