まつもと ゆきひろです
In message "[ruby-list:37858] remainderの値が?"
on 03/07/07, yoshihisa masuda <sacong / mac.com> writes:
|以下の場合で remainder (divmod) の値がこちらだと下のように動作
|してしまうんですが、何か原因があるんでしょうか?
浮動小数点数の誤差のためです。
|$ ruby -v
|ruby 1.6.8 (2002-12-24) [powerpc-darwin6.4] #=> Mac OS X 10.2.6
|$ irb --simple-prompt
|>> m = ( 88.1 - 76.8 ).remainder(1.6)
|=> 0.1
>> sprintf "%16.16f", m
=> "0.0999999999999965"