Microsoft Visual C++ ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
471:デフォルトの名無しさん 05/10/27 16:53:12 「どんな演算をするか」を定義しないで話を進めても駄 目だろ。たとえば、Nbit同士の加算なら2Nbitのワーク スペースで2^N回実行可能。 a_i, b_i をNbitとして c = Σa_i b_i を並列でやるな ら各乗算結果は2Nbit幅必要。加算結果はΣの数に依る。 バタフライ演算とかでcを次段の乗算係数として用いる 場合、誤差を出さないよう幅を拡張したルーチンに切り 替える場合もあるし、誤差が許容範囲ならNbit演算ルー チンを使いまわすためにNbitに丸めることもある。 但し、ただ丸めただけでは誤差がひどいので最上位ビッ トがセットされている状態に丸め（もちろん四捨五入し た後）、何bitシフトしたかを覚えておいたりする（仮 想的な浮動小数点数のようなもの）。 アルゴリズムによっては上記ビット数を厳密に守らなく ても良い成果を出す方法もある（加減算を交互に配置す る、など）。 MMXで誤差無くす方法なんてなんぼでもあるだろ。 面倒いけど。 472:デフォルトの名無しさん 05/10/27 21:41:47 どうしていつの間にか整数演算になっちゃったんだろう？ MPEG音声圧縮の話なんだろ、元々は。
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5390日前に更新/181 KB
担当:undef