【FPU】　浮動小数点　【SSE】

286 名前：デフォルトの名無しさん mailto:sage [2008/02/27(水) 13:06:33 ] >>278 ビット表現に×2^nと正規化が出てきたら文字通り 浮動小数点だと言ってみるテスト （まあ現在普通に浮動小数点といえば 誤差含む数を扱うためのものだが） >>280 実際のところ実数が不可算無限個あるって性質は 無視していいよね。 数学上は可算無限個の中に含まれない実数を 作り出すこと自体無理だし、 実用上は誤差を考えれば有限桁ですむし。 >>284 表そうも何もどういう循環小数か分からない時点で

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef