2013年9月7日土曜日

小数 誤差

floatやdoubleで計算するときに誤差が生じることがあります。
その対処法のひとつとして許容誤差を設定する方法があります。


JUnitで許容誤差を設定する場合

double expected = 0.00;
double actual = 0.01;
double delta = 0.001;//許容誤差

assertEquals(expected,actual,delta);

JUnitで0.00と0.01を比較した場合、誤差が生じ
結果が成功してしまいます。
しかし、ここで許容誤差として0.001を設定することで
失敗となり正しい結果が出力されます。

  • この記事をシェアする

  • このエントリーをはてなブックマークに追加
  • このブログの更新をチェックする

  • follow us in feedly