- 60 名前:36 [2006/04/07(金) 22:11:54 ]
- 混乱させるような書き方で申し訳ないです。
float値のみで計算をしていてXPではウインドウを動かそうが何しようが 毎回同じ計算結果を吐き出しているにも関わらず、 同じものを9x系で実行すると計算結果がXPの場合と異なっているのです。 計算を開始する前に一度ウインドウサイズをリサイズしたり、 最小化したりした後の計算では、XPと同じ数値が出ます。 floatの丸めモードがどこかで変更されてしまっているように思います。 様々調べましたが原因が分かりません。一番単純なソースにしても同様です。 floatとdoubleの比較が上手くいかないとかではありません。 非常に困りました・・・。現在稼動ののソフトでも気がつかないだけで、 数値の結果に誤差が出ているのかも知れません。もしかしたら。
|

|