応用情報処理技術者試験 ポイント
2024年3月5日火曜日
丸め誤差、打切り誤差、桁落ち、情報落ちの違い
桁落ち 例えば、以下のような場合を考えてみましょう。 0.6582×105−0.6581×105=0.0001×105=0.1×102 有効数字4桁の数同士の引き算を行った結果、有効数字2桁の数字に変化しました。
0 件のコメント:
コメントを投稿
前の投稿
ホーム
登録:
コメントの投稿 (Atom)
0 件のコメント:
コメントを投稿