[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 2chのread.cgiへ]
Update time : 07/12 23:55 / Filesize : 254 KB / Number-of Response : 987
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

Debian GNU/Linux スレッド 西成ペンギン専用



42 名前:西成ペンギン ◆ydFY0TwQg. [2011/06/29(水) 23:50:29.84 ID:qb2vILJE]
>>41
うーん、ワシも勉強不足やなぁ。変数を単精度、倍精度それぞれで定義したとき、計算方法によってはそれぞれの場合で計算機
にとって苦手なもんがあって不具合が生じる。よってマシンイプシロンとかの考え方が出たという認識でしかないねん。
すまん、ホンマにワシの勉強不足や、堪忍してや。
普段数値計算するときにあまり使わんてのもあるんやけどな、観測系なら必須なんやろな。
ワシはどちらかというと理論系の計算しとるんやけど、そういうときは扱う対象にもよるんやけど、リープフロッグ法うかわんで、ルンゲクッタ法使うとかして精度高めようとしとるで。







[ 続きを読む ] / [ 携帯版 ]

全部読む 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<254KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef