- 142 名前：デフォルトの名無しさん mailto:sage [2016/08/04(木) 07:07:58.69 ID:1Q45SAfi.net]
- >>136
問題はRoundの結果に対する誤差の影響についての方だろ?
結果が100000.05付近になるとき、100000.1になるか100000.0になるかは
累積の丸め誤差に依存するよね
MSDNでも実際にそれが問題になっている例が示されてる
https://msdn.microsoft.com/ja-jp/library/f5898377(v=vs.110).aspx
結局>>81が示してるようなコーナーケースがあるんだよ
|
 |
