[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 2chのread.cgiへ]
Update time : 05/09 14:16 / Filesize : 271 KB / Number-of Response : 923
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

1=0.999・・・ その16.999・・・



409 名前:132人目の素数さん [2009/10/11(日) 23:44:25 ]
1つ、情報系の知識を齧った程度の理系の俺が助言しておくよ。
汎用電子計算機(パソコン)で動作するプログラムを作り際に
ソースコードを記述するわけだが、当然そこにも数式は出てくる。
ただ>>1みたいな訳の分からない、成立しもしない意味のないコードは記述しないがw
コンパイラがエラーを出すし。x == y のような形式で比較演算子はあるが
当然>>1は真偽を判定したら偽と判断されるのだが・・・
場合によっては小数点以下は丸め込まれることがある。
そう、PCの内面的な仕組み、2進数で管理されている仕組みからして
2^-1、2^-2、2^-3・・・を組み合わせた形式で記録されるわけで。
0.5、0.25、0.125、あるいは足した0.75(0.5+0.25)、0.625(0.5+0.125)は
正確に記録できる。また小数点以下は精度(桁数)によっても変わってしまう。

まぁ長々と書いたが、俺は情報系でも何でもないんで、デジタル機器で共通する
基本的な仕組みを用いて話をしたが、後はそれらを 人間が都合よく解釈できる形式
に展開しているに過ぎないんだよw
ほら、あんたが今目の前で見ている文字、これも実態は数値だぞ。
色や文字を表示出来る環境下で、数値データをもとに処理されている。
どこかでコマンドラインが、プログラム環境がとか述べた奴がいるのか俺は知らないが
そんなのは各々の環境でどう使うか?が問題であって、どれも基本はそう大差ない。
電気信号で動作しているPCだしな。まぁ将来どんなエネルギーで動作するか知らんが
基本は0か1、今で言う電圧があるかないか?CDみたいなメディアでは
穴があるかないか?磁気メディアでは+か-か?といった単純な仕組み、法則で
成り立っているんだよw

で、それらは割り切れなければ適当に丸め込まれちゃうわけだw






[ 続きを読む ] / [ 携帯版 ]

全部読む 前100 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<271KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef