iモード携帯電話用Jav ..
[2ch|▼Menu]
523:デフォルトの名無しさん
07/06/04 14:38:37
Transform#transVectorが容易にオーバーフローするので、ほとほと困っています。
Vector3D v = new Vector3D(128,0,0);
Transform tr = new Transform(); //単位行列
tr.transVector(v,v);
System.out.println(v.getX());
こうすると、正負がひっくり返って-128.0を出力します。
推測するに、transVectorは内部のどこかでaxbxcを単精度で計算しているようです。



次ページ
続きを表示
1を表示
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
暇つぶし2ch

4225日前に更新/254 KB
担当:undef