〓Mathematica〓 - 暇つぶし2ch

〓Mathematica〓 at MATH

672:１３２人目の素数さん
03/08/23 20:33
>>668
> 　 123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ
わかってて書いてるのかも知れないが、システムによって機械精度の桁が違うから。
計算速度のために機械精度で扱える時はあつかおうとするという
Mathematicaの設計の結果。

> 　リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。
digits.digitsって？

>>670
そのプログラムバグってるぞ。
x = 0.9999999999999999999999999
で試してみ。
# というかRationalize[x,0]の不完全版を回りくどくやっているだけ。
欲しいのは
FromDigits[RealDigits[x], 10]
あたりか？

>>671
状況が良くわからないが、
If[x > 0, ..., ...][[2]]
とか、もしかしたら
Simplify[If[x > 0, ..., ...], x > 0]
とか。

次ページ

続きを表示

1を表示