Microsoft Visual C++ ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
462:デフォルトの名無しさん 05/10/26 18:11:43 >>452 8bitで表わせる範囲の数（0-255）であっても 16bit(WORD)で演算するのはちょっと精度不足だよ。 せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは 誤差の出方が違ってくる。 実際プログラミングして試してみれ。 463:デフォルトの名無しさん 05/10/26 22:14:36 あ、ごめん。 いきなり10bitなんて言っても何のことだか分からないよね。 これはある演算をするときにオーバーフローしないぎりぎりの精度を保つときの値で 別の演算には通用しない。（一般には8bit以下しかシフトできない） が、これでも精度落ちするってこと。 464:デフォルトの名無しさん 05/10/27 03:32:00 「精度」と言う単語を誤用している人間が居るので話がややこしくなる。 465:デフォルトの名無しさん 05/10/27 09:01:26 >>464 俺にはどうややこしくなるのかさっぱりわからんが？ 何と混同するっていうの？ 466:デフォルトの名無しさん 05/10/27 09:35:51 >>464 ちょっと、どう誤用なのか説明してくれ http://www.google.com/search?hl=ja&lr=lang_ja&safe=off&ie=sjis&oe=sjis&q=%97L%8C%F8%90%B8%93x
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5390日前に更新/181 KB
担当:undef