Debianパッケージをいっしょにメンテナンスしている
daigoさんに教えてもらったのですが、
1.9.0のgemでrglをインストールしようとすると
rdocの処理の中でコケてしまうようです。

----------------------------------------------------------------
$ rdoc lib/rgl/rdot.rb

                            rdot.rb: m.

RDoc failure in lib/rgl/rdot.rb at or around line 59 column 0

Before reporting this, could you check that the file
you're documenting compiles cleanly--RDoc is not a
full Ruby parser, and gets confused easily if fed
invalid programs.

The internal error was:

/usr/lib/ruby/1.9.0/rdoc/parsers/parse_rb.rb:1871:in `tr': invalid mbstring sequence (ArgumentError)
	from /usr/lib/ruby/1.9.0/rdoc/parsers/parse_rb.rb:1871:in `parse_constant'
	from /usr/lib/ruby/1.9.0/rdoc/parsers/parse_rb.rb:1646:in `parse_statements'
	from /usr/lib/ruby/1.9.0/rdoc/parsers/parse_rb.rb:1792:in `parse_module'
----------------------------------------------------------------

lib/rgl/rdot.rbの39行目のコメントに
iso-8859-9なアクセント付きの文字(があって
ja_JP.UTF-8やja_JP.EUC-JPなどでは
不整合(?)が起きるようです。

LANG=Cやja_JP.SJIS、ruby -Knなどで起動すると
上のような例外にはなりません。

どうするのが良いのか分かりませんが
デフォルトではASCII-8BITを想定しておいて(rbでopenする?)
Rubyスクリプトならエンコーディングの
magic commentを見てくれるようにしてもらうとか、
そうでなければオプションで指定できるようにするとか、
ともかく何か対処が必要ではないかなと思います。

-- 
ay