プログラミングの為の数学と算数 vol.2

プログラミングの為の ..

426:423
06/03/10 01:16:10
>>425
画像処理で使用するため浮動小数点は、できるだけ使用しないようにしています。
ちなみにバージョンA,Bともに四捨五入をするときは
ret = (a / b) + 0.5
　= (a / b) + (1 / 2)
　= (2 * a + b) / (2 * b) ←通分(だったっけ？)
のように0.5を足すようにしています。

次ページ