- 203 名前：デフォルトの名無しさん mailto:sage [2008/02/21(木) 21:28:01 ]
- >よくわからないけど、 1.0 + 1.0 * 10^-37 が正確に計算できるってこと？
「よくわからない」ふりして指数域の問題に見せかけつつさりげなく循環小数を忍ばせてIEEE陣営の内ゲバを狙う>>178よ…恐ろしい奴だ。BCD陣営の刺客か？俺も釣られるところだったぜ…
>1 に 10^-37 足したら誤差が 0.0000001 ってどこの電卓だよ！ ハライテー
>>196よ、知恵を付けた>>194が「round toward +INFINITYモードだい！」と屁理屈こねて反撃してくる可能性に気をつけろ。0.5ulpの威光も吹っ飛ぶぜ。
>>「1〜10^-37ぐらいを同じ精度で計算するのは朝飯前」
>の意味をもう少し具体的に書け
>どんな元データからどういう計算をしようとしてるのかを
じいさんはそれを>>157に確認してる最中なんじゃねぇの？
このスレの迷走っぷりに呆れて157ももう戻ってこないんじゃないかと。
> 例えば 1 前後のオーダーが普通な時に
> 10^-14 みたいなサイズのベクトルがあったら
> それは多分もの凄い勢いで数値誤差を含んでる。
俺もなぜこの程度の指数域で精度不信に陥ったのか事情を知りたい。
|
 |
