- 42 名前:西成ペンギン ◆ydFY0TwQg. [2011/06/29(水) 23:50:29.84 ID:qb2vILJE]
- >>41
うーん、ワシも勉強不足やなぁ。変数を単精度、倍精度それぞれで定義したとき、計算方法によってはそれぞれの場合で計算機 にとって苦手なもんがあって不具合が生じる。よってマシンイプシロンとかの考え方が出たという認識でしかないねん。 すまん、ホンマにワシの勉強不足や、堪忍してや。 普段数値計算するときにあまり使わんてのもあるんやけどな、観測系なら必須なんやろな。 ワシはどちらかというと理論系の計算しとるんやけど、そういうときは扱う対象にもよるんやけど、リープフロッグ法うかわんで、ルンゲクッタ法使うとかして精度高めようとしとるで。
|

|