プログラミングの為の ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
432:デフォルトの名無しさん 06/03/10 15:50:22 サンプルを少数表記じゃなくて整数比で示してくれないか？ その方が解析しやすい。 433:デフォルトの名無しさん 06/03/10 15:55:04 知ってるかどうか知らないが、 小数点以下の数を10進表記するとそれだけで誤差が含まれる。 だからこの場合、実数に換算しないで考えたほうがよい。 つまり計算させてる事例に関わる整数の比がないと 何が行われているか正確なことはわからない。 LPtoDP()ってことは窓の大きさとディスプレイの解像度が絡むんだろ？ 434:デフォルトの名無しさん 06/03/10 16:18:42 固定少数点で負数の時だけ処理するのを条件判断を使わずにやりたいなら、 ret = (2 * a + b*sgn) / (2 * b); として sgn を 1か-1にすればいい あるいは ret = (2 * a + b*(sgn+1)-b) / (2 * b); とすれば sgn+1 は 0か2なので 0か-1の変数fを使い ret = (2 * a-b + 2*b&f) / (2 * b); xor結果の最上位で fを-1か0にすればいい ・右へのビット幅だけシフト ・インラインアセンブラを使って符号拡張命令 して、符号ビットを埋めて ゴチャゴチャやる方法があるけど、そんなの使いたい？
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5380日前に更新/259 KB
担当:undef