〓Mathematica〓
at MATH
656:１３２人目の素数さん
03/08/22 11:57
>>646
知りもしないものを「クソ」あつかいか…
それに少し上のレスぐらい読め。
機械精度なんて関係ないんだよ。
計算機の上では有限の精度しか実現できないことをしっているよな？
0.1111111111111111111111111 == 111111111111111111111/1000000000000000000
にしたところで何か計算したとたんにほぼ確実に10進数表示での
数学的な等号は成立しなくなるんだぞ。
何か意味があるか？
精度の保証だけしとけば十分だろ。
Precision, Accuracyについてマニュアルを読め。
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5174日前に更新/264 KB
担当:undef