浮動小数点の誤差に気をつけよう

このレッスンでは、コンピュータが小数を扱う際に生じる誤差について学び、金額計算などで注意すべきポイントを理解することを目標にします。「Ruby 浮動小数点 誤差」で検索している方向けです。

コンピュータは小数を2進数で扱うため、0.1 + 0.2のような単純な計算でも、ぴったり0.3にならないことがあります。表示すると誤差がそのまま見え、比較するとfalseになります。

サンプルコードでは、0.1 + 0.2を実行すると0.30000000000000004という誤差を含んだ値がそのまま表示され、0.1 + 0.2 == 0.3という比較がfalseになる様子を確認できます。

初心者がよくつまずくのが、この誤差の存在に気づかず、小数の等価比較をそのまま行ってしまうことです。金額計算などで小数の誤差が問題になる場合は、BigDecimalクラスを使うなど、誤差が出ない工夫が必要です。

これはRubyだけでなく、多くのプログラミング言語に共通するコンピュータの仕組みに起因するものです。会計システムなど精度が求められる場面では、この特性を踏まえた対策が欠かせません。