自動化ツールuwsc使いよ集まれ5

自動化ツールuwsc使いよ集まれ5 at SOFTWARE

102:名無しさん＠お腹いっぱい。
10/01/01 01:08:17 SeLmUNNh0
この場合は誤差はないと思いますけど。

原因は多分、０．０を０と計算できないこと・・・
いや、やっぱり誤差かな？
回数を計算するときにUWSC内部で
(2.0-1.0)/0.1とかやってるんだろう。

10進数の0.1は、2進数で・・・
URLﾘﾝｸ(www.infonet.co.jp)
> ところで、10進数の 0.1 は、2進数では正確に表すことができず、その近似値は 0.00011001100110011001100 … になります。

てことは・・やべ>>97は無限ループだ。
全て100倍して整数値で計算しないと。
んでもって確実に整数値にするためにINT()とか使わないと。

次ページ

続きを表示

1を表示