2024年3月5日火曜日

丸め誤差、打切り誤差、桁落ち、情報落ちの違い

桁落ち 例えば、以下のような場合を考えてみましょう。 0.6582×105−0.6581×105=0.0001×105=0.1×102 有効数字4桁の数同士の引き算を行った結果、有効数字2桁の数字に変化しました。