[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 2chのread.cgiへ]
Update time : 03/26 12:25 / Filesize : 214 KB / Number-of Response : 985
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

スレ立てるまでもない質問はここで 85匹目



301 名前:デフォルトの名無しさん mailto:sage [2007/09/27(木) 18:35:01 ]
要するにだ。

0.1 っていう表記は 0.05 〜 0.15 の範囲で誤差を持ってると思え。 つまり 0.1±0.05 だ。
0.1000 なら 0.09995〜0.10005 つまり 0.1000±0.00005 だ。
小数以下の書いてない部分は、 0 が続いてるんじゃなくて不定値だと考えろ。

誤差は蓄積し続けるので、0.1 - 0.1 = 0.0 というのは実は (0.1±0.05) - (0.1±0.05) = 0.0±0.1 になる。
0.1000 - 0.1000 だったら、(0.1000±0.00005) - (0.1000±0.00005) = 0.0000±0.0001 だ。

誤差の扱い方って学校で教わらなかった?






[ 続きを読む ] / [ 携帯版 ]

全部読む 前100 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<214KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef