- 383 名前：デフォルトの名無しさん mailto:sage [2007/06/22(金) 12:27:02 ]
- >>381
これ以上はスレ違いになるがつっこませてくれ。
浮動小数点ユニットがIEEE754（だったっけ）で処理する場合、単精度で23ビット、倍精度で52ビットの精度だろ。
被序数が32ビット整数ならともかく、64ビット整数の除算は精度の問題上アウトだぞ。
↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました |
【高速化】ビット演算 0x02
| |
read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef