GPUで汎用コンピューティングを行うスレ

GPUで汎用コンピューティングを行うスレ at TECH

36:デフォルトの名無しさん
07/04/16 22:24:00
>>34
ATIの一部の製品が24ビットってのは仮数部が24ビットという話じゃないよ。
R300世代のピクセルシェーダ演算精度は仮数+指数+符号で24ビットだった。
URLﾘﾝｸ(pc.watch.impress.co.jp)

> ATIが24ビット云々は、NV30系が16ビット演算だったことに
> 対するアドバンテージとして出てきたフレーズじゃなかった?

むしろNV30の低速な32ビット演算に対する速度的アドバンテージという意味合いが強かったと思う。

次ページ

続きを表示

1を表示