「桁落ち」一覧

問題 桁落ちによる誤差の説明として，適切なものはどれか。 値のほぼ等しい二つの数値の差を求めたとき，有効桁数が減ることによって発生する誤差指定された有効桁数で演算結果を表すために，切捨て，切上げ，四捨五入などで下位の桁を削除することによって発生する誤差絶対値の非...