- 102 名前：名無しさん＠お腹いっぱい。 mailto:sage [2010/01/01(金) 01:08:17 ID:SeLmUNNh0]
- この場合は誤差はないと思いますけど。
原因は多分、０．０を０と計算できないこと・・・
いや、やっぱり誤差かな？
回数を計算するときにUWSC内部で
(2.0-1.0)/0.1とかやってるんだろう。
10進数の0.1は、2進数で・・・
ttp://www.infonet.co.jp/ueyama/ip/semi_cnd/abacus.html
> ところで、10進数の 0.1 は、2進数では正確に表すことができず、 その近似値は 0.00011001100110011001100 … になります。
てことは・・やべ>>97は無限ループだ。
全て100倍して整数値で計算しないと。
んでもって確実に整数値にするためにINT()とか使わないと。
