〓Mathematica〓 - 暇つぶし2ch

〓Mathematica〓 at MATH

650:１３２人目の素数さん
03/08/21 22:29
>>646
> 　あのさ、Mathematica では小数点を付けた数値は機械精度
> 　で計算されるとマニュアルに書いてあるから、

こんなことは書いてない。
おまえの書いた
　 0.11111111111111111111111111
はArbitrary-Precision Numberだ。
つまり、多倍長数の内部表現が二進であるか十進であるかという実装の問題だ。
偉そうなこと書くんだったらもっと勉強しろ。
一目見たらdoubleで書けないことぐらいわかれよ。

64bit以上のCPUつかってんだったら機械精度かも知れんがどっちにしろ
嘘だしな。

次ページ

続きを表示

1を表示