コメント
サイト運営のための寄付
作成者: 白鷹2
ページ番号: 1228093883_1228272551
作成日: 2008-12-03
修正日: 2010-01-15
開発言語一般
開発言語一般のTips
小数の扱いについて
・小数の比較で、=を使ってはいけない。小数の計算には誤差が含まれるため、異なる経路で計算した値は、一致するとは限らない。
・小数点以下切捨ての処理も、同様の理由で、注意する必要がある。
 整数の6に見えていても、実は、5.999999を表示上、6としている場合がある。この場合、切り捨てを行うと、5になってしまう。
 整数の「6」の小数点以下を切り捨てたつもりが、「5」になる。
Decimal型を使うと、軽減される?(検証中)
とはいえ、小数を扱う計算においては、誤差が出ると考えた方が良い。計算上、Decimal型の有効範囲を超えて、0に近いが、0ではない答えが出ることがあるためである。
©2008-2009 PostTips All Rights Reserved.
新規ページの作成
タイトル:
要約
新規画像の登録
タイトル:
画像ファイルの指定
タイトルの修正
画像タイトルの修正
要約の修正
コメントの書き込み
コメント: