[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 1001- 2chのread.cgiへ]
Update time : 05/09 19:31 / Filesize : 203 KB / Number-of Response : 1002
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

Visual Studio 2005スレ Part12



60 名前:36 [2006/04/07(金) 22:11:54 ]
混乱させるような書き方で申し訳ないです。
float値のみで計算をしていてXPではウインドウを動かそうが何しようが
毎回同じ計算結果を吐き出しているにも関わらず、
同じものを9x系で実行すると計算結果がXPの場合と異なっているのです。
計算を開始する前に一度ウインドウサイズをリサイズしたり、
最小化したりした後の計算では、XPと同じ数値が出ます。
floatの丸めモードがどこかで変更されてしまっているように思います。
様々調べましたが原因が分かりません。一番単純なソースにしても同様です。
floatとdoubleの比較が上手くいかないとかではありません。
非常に困りました・・・。現在稼動ののソフトでも気がつかないだけで、
数値の結果に誤差が出ているのかも知れません。もしかしたら。






[ 続きを読む ] / [ 携帯版 ]

全部読む 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<203KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef