自動化ツールuwsc使いよ集まれ5 at SOFTWARE

---

[2ch|▼Menu]

■コピペモード
□スレを通常表示
□オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
100:名無しさん＠お腹いっぱい。 09/12/31 22:41:43 WvG0KKdQP >>98 誤差の影響です。 コンピュータはすべて2進法で計算していますが、 この2進法では0.1という数字を「正確に」扱う事が出来ないのが原因です。 これは私たちの身の回りにもよくある話です。 私たちが普段使っている10進法では「1/9」を小数で表現すると 0.1111・・・ですよね。 1/9を9個足せばもちろん1です。 しかし 0.111111111111111111と途中で数字を切り捨てて計算を続けたらどうでしょうか？ これを9個足しても 0.999999999999999999にしかならず、決して1にはなりませんね。 もちろん工夫をする事によってこの問題を回避する方法を持っている 計算プログラムも存在していますが、難しい処理が必要になるため プログラムの価格が高価であったり計算する時間が長くなったりします。 uwscのようなプログラムでは一般的に誤差を持っています。 誤差を極力減らすためには>>99さんがおっしゃるように なるべく整数のまま計算をするのが最も効果的な方法といえます。

---

次ページ

最新レス表示

スレッドの検索

類似スレ一覧

話題のニュース

おまかせリスト

▼オプションを表示

レスジャンプ

mixiチェック！

Twitterに投稿

オプション

しおりを挟む

スレッドに書込

スレッドの一覧

暇つぶし2ch

---

4269日前に更新/257 KB
担当:undef