自動化ツールuwsc使いよ集まれ5

1 名前：名無しさん＠お腹いっぱい。 [2009/12/09(水) 05:27:33 ID:J1DL1P1U0] Windowsを自動化させるツールUWSC。 www.uwsc.info/ uwsc使いのみなさま、ﾏﾀｰﾘ己のスクリプトを晒しましょ。 99 名前：名無しさん＠お腹いっぱい。 mailto:sage [2009/12/31(木) 19:15:53 ID:8NQ2XvCh0] STEP 0.2だと2が表示されるな。 挙動がようわからん… 何か0.124と0.125の間あたりで切り替わるようだが… とりあえず FOR i = 10 TO 20 //　　　多用するならj = i / 10とかして使う 　　　　FUKIDASI( i/10) 　　　　SLEEP( 1) NEXT とかするのが無難そうね。 100 名前：名無しさん＠お腹いっぱい。 [2009/12/31(木) 22:41:43 ID:WvG0KKdQP] >>98 誤差の影響です。 コンピュータはすべて2進法で計算していますが、 この2進法では0.1という数字を「正確に」扱う事が出来ないのが原因です。 これは私たちの身の回りにもよくある話です。 私たちが普段使っている10進法では「1/9」を小数で表現すると 0.1111・・・ですよね。 1/9を9個足せばもちろん1です。 しかし 0.111111111111111111と途中で数字を切り捨てて計算を続けたらどうでしょうか？ これを9個足しても 0.999999999999999999にしかならず、決して1にはなりませんね。 もちろん工夫をする事によってこの問題を回避する方法を持っている 計算プログラムも存在していますが、難しい処理が必要になるため プログラムの価格が高価であったり計算する時間が長くなったりします。 uwscのようなプログラムでは一般的に誤差を持っています。 誤差を極力減らすためには>>99さんがおっしゃるように なるべく整数のまま計算をするのが最も効果的な方法といえます。

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef