- 452 名前：１３２人目の素数さん mailto:sage [04/10/10 21:32:56]
- 見当違いのことをしているのかもしれませんが、教えてください。
Mathematicaでの数値計算の精度は機械精度以上には上げることが出来ないでしょうか。
$MachinePrecision
Out[1]=15.9546
a1=SetPrecision[Sqrt[2-0.1],100];
NumberForm[a1,DigitBlock->10,NumberSeparator-> " " ]
NumberForm=
1.3784048752 0902210683 0047960102 0924746990 2038574218 7500000000 ＼
0000000000 0000000000 0000000000 000000000
a2=Sqrt[SetPrecision[2.-0.1,100]];
NumberForm[a2,DigitBlock->10,NumberSeparator-> " " ]
//NumberForm=
1.3784048752 0902214457 7973787659 2686126529 8801258806 7606899563 ＼
5042810459 9163905598 4762095066 7510687484
a1とa2を比較すると、機械精度が保証する桁以下で両者が異なっています。
どちらが正なのでしょうか。SetPrecisionの使い方がまずいのでしょうか。
|
 |
