浮動小数点の誤差に気をつけよう

このレッスンでは、VB.NETにおける浮動小数点の誤差について学び、小数計算で思わぬ結果になる理由を理解することを目標にします。「VB.NET 浮動小数点 誤差」で調べている方向けです。

コンピュータは小数を2進数で扱うため、0.1や0.2のような一見きれいな小数でも、内部的には正確に表現できず、わずかな誤差が生じることがあります。

サンプルコードでは、0.1 + 0.2を計算すると、見た目上は0.3になりそうに思えても、内部的な誤差により0.1 + 0.2 = 0.3という比較がfalseになる様子を確認できます。これは浮動小数点数を扱う多くのプログラミング言語で共通して起こる現象です。

初心者がよくつまずくのが、小数同士を=で直接比較して、期待通りの結果が得られないことです。小数の比較では、2つの値の差が十分に小さいかどうかで判定するなど、誤差を考慮した比較方法が必要になります。

実際の開発現場では、金額計算のように誤差が許されない場面ではDecimal型のような、より精度の高い型を使うことが推奨されます。