プログラミングの為の数学と算数 vol.2

プログラミングの為の数学と算数 vol.2 at TECH

450:434
06/03/10 22:11:31
言い訳すると >>427　で　
＞単純に0.5を足して切り捨てると除算結果が負数の場合に問題があるのです
に騙されてしまった。

単純に0.5を足して切り捨てるのをやりたかったのだろう。

ただ、X86では除算の結果が負数になる場合は余りも負数になる。
a/b＝ n余りsなら
a = n*b + s = s+b+(n-1)*b となる修正をすればいい
アセンブラで書けば、
　　cdq
　　idiv
　　sqr edx,#31
　　add eax,edx
と4命令

次ページ

続きを表示

1を表示