児玉 です.

直接には ruby-math の話題では無いのですが,
Adleman-Pomerance-Rumery-Cohen-Lenstra(APRCL) 法による
素数性の判定を ruby で書いてみました.
   ftp://ftp.math.kobe-u.ac.jp/ftp/pub/knot/prime_test.tar.gz
多項式クラスを使って安直に書いたので ___画期的な遅さ___ ですが, 
教科書的な定義通りなので,アルゴリズムの骨格が分かりやすいと思います.
--
Kouji KODAMA, kdm / kobe-kosen.ac.jp