Microsoft Visual C++ ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
467:デフォルトの名無しさん 05/10/27 10:43:07 >>466 計算精度、有効桁数と言えってことだろうね。 でも誰も意味を取り違えたりしないって。 はっきり言って議論に水さしする、瑣末にこだわる嫌な人って思われるさ。 468:デフォルトの名無しさん 05/10/27 13:03:07 そんな事より >>462 の言っている事がサッパリ分からないヘタレな俺に 詳しく説明してくれまいか 469:デフォルトの名無しさん 05/10/27 14:09:50 >>468 MPEGのデコーダーでそんなのがあった気がする。 32bit-MMXだと精度不足になるだとか。 俺がよく知ってる事例だと、YUV->RGB変換でのＭＭX計算とかかな？ 470:468 05/10/27 15:38:00 >>469 さんありがとぅ、でもそう言うのじゃないんです >>462 の > 8bitで表わせる範囲の数（0-255）であっても > 16bit(WORD)で演算するのはちょっと精度不足だよ。 この場合、最大8bitの整数同士の演算結果を16bitで表すのだから オーバーフローやアンダーフローも起こり得ないのに「精度不足」 と言うのが分からない > せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは > 誤差の出方が違ってくる。 整数演算の結果をなぜシフトする必要があるのか？整数演算での誤差？ まさかとは思うが、固定小数点での演算を整数演算と言っているの？
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5390日前に更新/181 KB
担当:undef