- 464 名前:デフォルトの名無しさん mailto:sage [2007/04/08(日) 16:54:40 ]
- じゃあ 俺も妄想ね。
単精度32bitステレオで扱おうと思うとデータ量だけで フィルタ係数分左右で1タップ8byte 入力信号とあわせると16byteの記憶領域が必要。 10万タップの時点で既に1.6Mの記憶領域が必要になってしまう。 それがどうしたという感じだが、もしこのデータを外部メモリから読み出そうとすると 最近のメモリで読み出しレイテンシーが10nsくらいだから 信号と係数を逐次読み込んで毎回積和をとるとしたら 1/10000sec が毎回読み出しだけで消費されてしまう時間。 さらにこれに積和時間と入力信号保持用にリングバッファなりしなければならない。 MMXにシフトレジスタ命令はあったはずだが。 まぁこれ考えるとCPUキャッシュから外れるとメモリ読み出し時間 が一番のボトルネックになる気がするんだけど。 10万タップもまったく現実的じゃないよな。 サンプリング8kでギリギリ読み出しが間に合う速度くらいw とするとL1最低でもL2にデータ保持できる量=最大次数 くらいのノリにならねぇか? キャッシュも自分でフルに使える分けじゃないし かなりローレベルなプログラミング技術が要求されるよなぁ
|

|