☆★★★★電卓マニア★★★★★

☆★★★★電卓マニア ..

233:名無しの愉しみ
11/10/01 14:10:35.14 .net
>>232
語弊があったかな。
Kahan加算アルゴリズムの類いを使えばどれだけでも桁数増やせる
しかし元の演算精度に対する誤差も考慮しSharpは1桁,Canonは3桁で切っただけ。
この件はどちらが精度が良いという訳でなく設計思想の問題。
実際両者の計算値に差異が生じることもあると思うが
どちらが良いかは計算次第で運の問題かと。

実際に(1+1/60000)^(e^15)はEL-501E/Jが近いが
sin-1(cos-1(tan-1(tan(cos(sin(9))))))は
8.99999864382　F502G
8.99999863704　EL-501J
でF502Gの方が近い

次ページ

続きを表示

1を表示