- 181 名前:138 mailto:sage [2009/09/01(火) 21:36:33 ]
- 笑っちゃうのですが、本日他の文献(案件)を漁っていたら、
exp(x) = 1/exp(-x) なるものを見つけました。 修正は、 if x < 0 return one.div(exp(-x, prec), prec) end でokです。 最初から(不確かな)有効桁数を設定するより、こちらの方が、速くて安心。 oneはBigDecimalの1です。 コードを書いた方には、失礼しました。 情報弱者な年寄りには、何かの手続きの必要なものは面倒くさいのですよ。 >>179 xに-42送ると、戻り値がマイナスになります。 電卓なくても確認できます。若干の数学の知識があれば。
|

|