Microsoft Visual C++ Toolkit 2003 質問箱
at TECH
462:デフォルトの名無しさん
05/10/26 18:11:43
>>452
8bitで表わせる範囲の数（0-255）であっても
16bit(WORD)で演算するのはちょっと精度不足だよ。
せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは
誤差の出方が違ってくる。
実際プログラミングして試してみれ。
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5371日前に更新/181 KB
担当:undef