浮動小数点の誤差に気をつけよう

このレッスンでは、Objective-Cにおける浮動小数点の誤差について学び、小数計算で思わぬ結果になる理由を理解することを目標にします。「Objective-C 浮動小数点 誤差」で調べている方向けです。

コンピュータは小数を2進数で扱うため、0.1 + 0.2のような単純な計算でも、ぴったり0.3にならないことがあります。表示すると誤差がそのまま見え、比較すると偽になります。

サンプルコードでは、NSLog(@"%.17g", a)という高精度の書式指定子で誤差を含んだ値を表示し、a == 0.3という比較が偽になる様子を確認できます。これは浮動小数点数を扱う多くのプログラミング言語で共通して起こる現象です。

初心者がよくつまずくのが、小数同士を==で直接比較して、期待通りの結果が得られないことです。IEEE754という国際標準規格に基づいてこの誤差が生じる仕組みを知っておくと、原因への理解が深まります。

実際の開発現場では、金額計算のような正確さが求められる処理では、NSDecimalNumberのような、より精度の高い型を使うことが推奨されます。