Rubyについて Part 37 - 暇つぶし2ch

Rubyについて Part 37 at TECH

138:デフォルトの名無しさん
09/08/30 21:56:42
えっと、ここでもいいかな。
正式には、窓口あるんでしょうがね。

BigDecimal/math.rbの def exp(x, prec)
xに負数が来ると、うまくないです。

n += x.to_i if x < 0
の1行を適当なところに挿入すると良いです。

xが負のとき、ループの脱出の条件のところは、
n2 = n * 0.9
として、n2に置き換えても精度が保てます。
xが-1000より小さいと、実行が分単位になるので、確認不足かもね。
なので、0.9の部分は話半分ってことで。

1.9.1の243でも直ってなかった。

次ページ