- 196 名前：デフォルトの名無しさん mailto:sage [2008/02/21(木) 13:03:42 ]
- >194
>確かに単精度で表される最小数値は10^-37程度だが、有効桁は仮数部できまるので
>１程度の量と混ぜたら、単精度では10^-7程度の誤差が出る。
出ねーよwww
1 に 10^-37 足したら誤差が 0.0000001 ってどこの電卓だよ！ ハライテー
>０近辺では目が細かくて10^-37程度だが、
正規数オンリーでも10^-43(≒2^-149)ぐらい楽勝だろうが。
あのさぁ、最小値＝最小の刻み幅とか勘違いしてない？
>この点からして、>>177は計算しない素人評論家もしくはアホ。相手にするな。
「1〜10^-37ぐらいを同じ精度で計算するのは朝飯前」
被加数：1.000000 (精度7桁)
加数：1.000000 * 10^-37 (精度7桁)
合計：1.000000 (精度7桁)
何か問題あるわけ？
