- 729 名前:デフォルトの名無しさん mailto:sage [2009/11/27(金) 10:49:02 ]
- 質問です。処理系はintel fortranです。結果に怪しいところが多いので浮動小数点例外を
"アンダーフローは 0.0 にする。他の IEEE 例外は異常終了する (/fpe:0)"にしてます。 以下の行で、floating invalid を吐いて計算が止まります。変数は全て暗黙の型宣言です。 time=time*(xa-xb)/dx ちなみに直前でそれぞれの中身を表示したところ、 time=5.0E-07 xa=0.5368819 xb=0.5368840 dx=-2.0805840E-06 でした。 上の値はかなり長い計算の途中で出てくるので、手っ取り早く原因を探ろうと、 直前に上の数値を強制的に書き込んで回してみましたが再現しません(止まりません)。 floating invalidが上記の計算の行で起きているのはエラーメッセージのLineから明らかです。 正直意味不明過ぎて何を言ってるのか分からないかもしれませんが、何か 原因に思い当たること、もしくは他に何か必要な情報があれば教えていただけないでしょうか?
|

|