[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 2chのread.cgiへ]
Update time : 05/09 13:36 / Filesize : 200 KB / Number-of Response : 847
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

Rubyについて Part 37



138 名前:デフォルトの名無しさん mailto:sage [2009/08/30(日) 21:56:42 ]
えっと、ここでもいいかな。
正式には、窓口あるんでしょうがね。

BigDecimal/math.rbの def exp(x, prec)
xに負数が来ると、うまくないです。

n += x.to_i if x < 0
の1行を適当なところに挿入すると良いです。

xが負のとき、ループの脱出の条件のところは、
n2 = n * 0.9
として、n2に置き換えても精度が保てます。
xが-1000より小さいと、実行が分単位になるので、確認不足かもね。
なので、0.9の部分は話半分ってことで。

1.9.1の243でも直ってなかった。








[ 続きを読む ] / [ 携帯版 ]

全部読む 前100 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<200KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef