- 22 名前：19 mailto:sage [2009/01/29(木) 09:49:23 ]
- >>21
回答ありがとうございます。なるほど、７〜８桁目は有効数字外なんですね。
実害があってですね、粒子の位置の判定ををするとき、粒子の位置Xを
セルの幅CWで割って、
LCX=(X/CW)+0.999999 //Xが3.5、CWが1だとすると4.499999、整数に代入して4で4番目のセルに入る
みたいな処理があるんです。このとき、CWがずれてるとセルナンバーが大きいところだと、
想定外の変なセルに入っちゃう粒子が増えてきます。でも有効数字の問題だとすると、倍精度にしたとしても、
頻度は減るにせよ、根本的解決ではないってことになりますね？やっぱりこの処理自体に問題があるんでしょうか？
問題があるとしたらどういう方法にするべきでしょうか？
