打ち切り誤差
打ち切り誤差(読:ウチキリゴサ 英:truncation error)とは
例えば「10÷3」を計算すると「10÷3をやって3あまり1。あまりの1に対して1÷3をやって0.3あまり0.1。あまりの0.1に対して0.1÷3をやって0.03あまり0.01。あまりの0.01に対して……」とずっと続くけど、それをある程度のところで「止め止め!これ以上計算するの止めるから!」と打ち切って、そこまでに計算した内容を答えにすることで生じる誤差のこと
です。
打ち切り誤差(読:ウチキリゴサ 英:truncation error)とは
例えば「10÷3」を計算すると「10÷3をやって3あまり1。あまりの1に対して1÷3をやって0.3あまり0.1。あまりの0.1に対して0.1÷3をやって0.03あまり0.01。あまりの0.01に対して……」とずっと続くけど、それをある程度のところで「止め止め!これ以上計算するの止めるから!」と打ち切って、そこまでに計算した内容を答えにすることで生じる誤差のこと
です。