- 672 名前:132人目の素数さん mailto:sage [03/08/23 20:33]
- >>668
> 123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ わかってて書いてるのかも知れないが、システムによって機械精度の桁が違うから。 計算速度のために機械精度で扱える時はあつかおうとするという Mathematicaの設計の結果。 > リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。 digits.digitsって? >>670 そのプログラムバグってるぞ。 x = 0.9999999999999999999999999 で試してみ。 # というかRationalize[x,0]の不完全版を回りくどくやっているだけ。 欲しいのは FromDigits[RealDigits[x], 10] あたりか? >>671 状況が良くわからないが、 If[x > 0, ..., ...][[2]] とか、もしかしたら Simplify[If[x > 0, ..., ...], x > 0] とか。
|

|