青山です。

On Thu, 8 Jun 2000 16:57:23 +0900,
"Shigeo Kobayashi" <shigeo / tinyforest.gr.jp> wrote:

> 確かに便利だとは思います。ただ、前にごとけんさんが言っているように、
> 指定するのは10進の桁位置ですが、その桁位置が2進である Float の
> 位置として指定しきれない問題があるので、いかがでしょう?>みなさん

私の場合は、sprintf() 程度の信頼性でも通常は間に合うのでは無いかなとい
う感じです。まあ、つまり、123.456.to_s.sprintf().to_f の代替程度という
事ですね。

sprintf() のフォーマット指定はあまりわかりやすいものではありませんから、
それよりは、桁数を指定できるメソッドがある方が、使いやすいだろうという
案です。

> 「精度」より、自由に桁数指定ができるようにしたいというのが目標です
> (たとえ、それが精度を落とすことになっても)。
> # BigFloat というより VariableFloat かな?

なるほど。そういえば、README にも (Variable Precision) extension library.
と書いてありますね。

> > ただ、やはり計測の計算はちょっと特殊ですよね。メーターの最少目盛が 1
> > で、1/10 まで読むとすると、1.1, 11.1 111.1 1111.1 11111.1 これらは、す
> > べて同じ精度というか、精度の基準が、全体の桁数ではなく、1/10、すなわち、
> > 小数点以下の桁数になりますから。
> >
> 「特殊」かどうかはわかりませんが、意図されていることは十分に伝わって
> きます。

考えてみれば、sprintf() の丸めも小数点以下の桁数による指定ですから、む
しろこちらが一般的なのかもしれませんね。


-- 
青山 和光 Wakou Aoyama <wakou / fsinet.or.jp>