「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典イメージぴよ画像「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典

「桁あふれ」と「下位桁あふれ」の違い

スポンサーリンク

予備知識


それぞれの用語の意味


用語意味
桁あふれ「これより大きい数字は入れられないよ」な限界よりも大きい数字を入れようとしておかしな状態になっちゃうこと
下位桁あふれ計算結果が「0.000……1」のように小さくなり過ぎて(0に近づきすぎて)コンピュータさんが表現できなくなった状態

似ているところ


どちらも本来の値が正しく表示されなくなった状態です。


違うところ


正しく表示されなくなった原因が違います。
それぞれ

桁あふれ:値が大きすぎる
下位桁あふれ:値が小さすぎる(0に近すぎる)


のが原因です。


備考


桁あふれ、下位桁あふれは絶対値で考えるとイメージしやすいと思います。
絶対値で「大きすぎる(すごい大きい数、すごい小さい数)」だと発生するのが桁あふれです。
絶対値で「小さすぎる(メッチャ0に近い数)」だと発生するのが下位桁あふれです。


「桁あふれ」と「下位桁あふれ」の違い1

実際には、桁あふれも下位桁あふれも発生する理由は(ほぼ)同じです。
ただし、それを理解するには、ややこしいあれやこれやを理解する必要があります。

何となく分かれば満足できる人は

桁あふれ:値が大きすぎると発生する
下位桁あふれ:値が小さすぎる(0に近すぎる)と発生する


くらいの理解で留めておくのが良いと思います。


スポンサーリンク
書籍画像036
書籍画像049


書籍画像
わわわ説明術コラム
宣伝だよ
「分かった!」と思わせる説明の技術 知識ゼロの相手にも伝わるようになる本
AI用語図鑑 ビジネス・開発・試験対策に使える厳選キーワード256
おい点P、動くんじゃねえ!──ニガテ民のための算数と数学の本