くだすれFORTRAN(超初心者用) at TECH
[2ch|▼Menu]
253:デフォルトの名無しさん
06/03/13 13:47:57
>>250
1980年代のコードである場合、浮動小数点には今とは違う事情がある。
現在の浮動小数点はIEEEの形式にほぼ統一されているが、かつてはメーカーごとに
実数の内部形式は異なっていた。そのために、同じワード長でも仮数部により多くの
ビットを割り当てているものもあれば、指数部により多くのビットを割り当てているもの
もあって、機種によって有効桁の範囲が違っていた。
(IBMは仮数部に、CRAYは指数部により多くのビットを割り当てていた。
さらに言えば、NECのACOSのあるシリーズのように1ワード=36bitとか、
CDCのいくつかのシリーズのように1ワード56?bitとかでワード長自体が
違うものもあった。)

というわけで、書かれた対象機種が分かれば必要精度に関するヒントになる。

ただ数値演算プロセッサが倍精度で作られている以上
基本的に倍精度にしておくのがよろしいと思う。

まぁSSEで高速化を優先するならまた話は別だが・・・


次ページ
続きを表示
1を表示
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
暇つぶし2ch

4431日前に更新/404 KB
担当:undef