- 528 名前：デフォルトの名無しさん [2010/06/09(水) 11:53:33 ]
- printf "%.2f\n", 90.1730;
printf "%.2f\n", 90.1740;
printf "%.2f\n", 90.1750;
printf "%.2f\n", 90.1760;
printf "%.2f\n", 90.1770;
printf "%.2f\n", 90.1630;
printf "%.2f\n", 90.1640;
printf "%.2f\n", 90.1650;
printf "%.2f\n", 90.1660;
printf "%.2f\n", 90.1670;
この処理ですが、上の段は、５捨６入しているのですが、
下の段は４捨５入の処理をしています。
90.17
90.17
90.17
90.18
90.18
90.16
90.16
90.17
90.17
90.17
いろいろと試したのですが、printfがどういったルールで
丸めの処理をしているのかまったくわかりませんでした。
ググッてもこの処理の違いに関する説明もでてきません。
この処理の違いがわかる人はいませんか？
|
 |
