「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典イメージぴよ画像1分で読める わわわIT用語辞典本家はこちら

打ち切り誤差

打ち切り誤差(読:ウチキリゴサ 英:truncation error)とは

例えば「10÷3」を計算すると「10÷3をやって3あまり1。あまりの1に対して1÷3をやって0.3あまり0.1。あまりの0.1に対して0.1÷3をやって0.03あまり0.01。あまりの0.01に対して……」とずっと続くけど、それをある程度のところで「止め止め!これ以上計算するの止めるから!」と打ち切って、そこまでに計算した内容を答えにすることで生じる誤差のこと
です。


スポンサーリンク


書籍画像