プログラミングの為の ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
827:デフォルトの名無しさん 07/05/02 19:42:29 >>825 用途を書いてくれればもう少し具体的なアドバイスが出てくると思われ 828:デフォルトの名無しさん 07/05/02 20:19:07 >>825 滑らかじゃなくていいなら既に色々レスついてるからそれ参照。誤差ゼロ。 滑らかである必要があるなら、確かに精度(許容誤差)を与える必要はあるだろう。 滑らかって何とか言うならもっと勉強しなさい。 829:デフォルトの名無しさん 07/05/04 00:50:19 ペゾルドにかいてなかったっけ？ 830:デフォルトの名無しさん 07/05/15 23:20:02 ttp://www.emit.jp/prog/prog_div.html の高速除算なのですが、 どうしてこれで正しく計算できるのか分かる方いませんか？ あと、割られる数が負数のときでも上手くいくような つまり X / D = Q (Qは整数) のときに -X / D = -Q となるような高速除算の方法を知っている方はいますか？ 831:デフォルトの名無しさん 07/05/16 01:13:49 830のリンク先はなーんか誤差が出そうなやり方だなー。 定数除算なら、誤差項を１ビット誤差以下に抑えればいいから、こういうことは出来るけど。 32bit同士の乗算がオーバーフローせずに使える場合。 X/3 = [X/3 + 2n/(3*2^32)] (∵ 2n/(3*2^32) < 1bit ) = [ (2^32 + 2)/3 * (n/2^32) ] = 1431655766 * n / 2^32 = 1431655766 * n >> 32
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5375日前に更新/259 KB
担当:undef