まつもと ゆきひろです

In message "[ruby-math:00204] Re: (summary) SingleFloat, DoubleFloat < Float"
    on 00/01/31, Masahiro TANAKA <masa / koala.astro.isas.ac.jp> writes:

|> これはまずいです。というのは、0.1 はdouble相当なので、内部で
|> 型変換すると 0.1f と違うモノになります。
|
|  "0.1f" → (float)
|とするのと、
|  "0.1" → (double) → (float)
|とするのでは、floatの誤差分だけ違う数になりうることはわかります。
|その場合でも、"0.1"からの差は、どちらもほぼ同じですよね。

私自身が理解してないので人の文章を借りるしかないのですが(し
かも孫引き)、

In message "[ruby-math:00205] Re: (summary) SingleFloat, DoubleFloat < Float"
    on 00/01/31, EGUCHI Osamu <eguchi / shizuokanet.ne.jp> writes:

|「演算は無限精度で行い結果を丸め希望の精度を得る」
|と言う場合に、doubleは「無限精度」の近似として
|float に対しては十分である。 ...と言う事ですね。

であるならば、0.1fとdoubleの0.1から丸めた0.1fは同じものと言
えないでしょうか。