[表示 : 全て 最新50 1-99 101- 2chのread.cgiへ]
Update time : 09/20 04:45 / Filesize : 38 KB / Number-of Response : 101
[このスレッドの書き込みを削除する]
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧] [類似スレッド一覧]

↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

くだすれFORTRAN（超初心者用）その4

21 名前：デフォルトの名無しさん mailto:sage [2009/01/29(木) 01:01:07 ]
>>19
単精度なら有効桁からいって７〜８桁目にゴミが出てもおかしくない。
ゆえに気にするな。

フォーマットを与えずに＊で書かせれば、自動的に精度の範囲内で出力するので
ゴミは見えなくなるだろう。フォーマットは浮動小数点での表現を単に何桁でも
十進法に直して書くだけだから、単精度でもF30.20とか書けば小数点以下２０桁とか
書いてくれるが、有効数字的には６〜７個しか意味ない。






[ 続きを読む ] / [ 携帯版 ]
全部読む 次100 最新50 ▲ [ このスレをブックマーク！ 携帯に送る ] 2chのread.cgiへ
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧]（*・∀・）＜38KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef