- 138 名前:デフォルトの名無しさん mailto:sage [2009/08/30(日) 21:56:42 ]
- えっと、ここでもいいかな。
正式には、窓口あるんでしょうがね。 BigDecimal/math.rbの def exp(x, prec) xに負数が来ると、うまくないです。 n += x.to_i if x < 0 の1行を適当なところに挿入すると良いです。 xが負のとき、ループの脱出の条件のところは、 n2 = n * 0.9 として、n2に置き換えても精度が保てます。 xが-1000より小さいと、実行が分単位になるので、確認不足かもね。 なので、0.9の部分は話半分ってことで。 1.9.1の243でも直ってなかった。
|

|