- 症状が「端数処理/浮動小数点/表示側の桁あふれ/DBの上限」のどの型かを見たか
- ずれた値と正しい値を並べ、差がいくつかを数字で出したか
- ずれる行に共通する条件(明細の行数・割引・数量など)を探したか
- 入力・計算・保存・表示のどの区間で値が変わったかを書き出したか
- 丸めている関数と、丸めるタイミング(明細ごとか合計か)を確かめたか
- 金額や数量の列の型が、FLOAT / DOUBLE になっていないか確かめたか
- 連番の最大値が、型の上限に近づいていないか確かめたか
- CSVや表計算ソフトで、長い番号や先頭の0が化けていないか確かめたか
- 境目の値(.5・上限ちょうど・16桁以上のID)で、検証環境で再現したか
- 丸め方のルールを決め、記録に残したか
- 直したあと、同じ境目の値で結果が合うことを確かめたか
全部を一度にそろえなくても大丈夫です。まずは「ずれの型を見分ける」と「区間ごとに値を書き出す」の2つだけで、見えなかったずれの場所にぐっと近づけます。
この内容は記事「金額が1円ずれる・数が化ける|丸め誤差と桁あふれの追い方」のチェックリストです。印刷してそのままお使いいただけます。 / 無料ツール一覧へ