C#, C♯, C＃相談室 Part91

C#, C♯, C＃相談室 P ..

142:デフォルトの名無しさん
16/08/04 07:07:58.69 1Q45SAfi.net
>>136
問題はRoundの結果に対する誤差の影響についての方だろ?
結果が100000.05付近になるとき、100000.1になるか100000.0になるかは
累積の丸め誤差に依存するよね
MSDNでも実際にそれが問題になっている例が示されてる
URLﾘﾝｸ(msdn.microsoft.com)(v=vs.110).aspx
結局>>81が示してるようなコーナーケースがあるんだよ

次ページ

続きを表示

1を表示