正木です。

ある計算中に次のような error が出ました。

Vector[19619/960000, 6445151497/7680000000, 53307844537/138240000000].hash
matrix.rb:894:in `hash': bignum too big to convert into `int' (RangeError)

色々調べた結果:
Rational の hash の定義は

class Rational
  def hash
    @numerator.hash ^ @denominator.hash
  end
end

に訂正した方が良さそうです。