C#, C♯, C＃相談室 Part89

780 名前：デフォルトの名無しさん mailto:sage [2016/01/02(土) 21:08:13.71 ID:8GFmFo5+.net] 下記の式で360を3.5で割った時だけ剰余の結果がおかしくなります。 誤差を除けば0になるはずです。 y = 720.0 % (360.0 / 3.1); // y = 23.2258064516129 y = 720.0 % (360.0 / 3.2); // y = 45 y = 720.0 % (360.0 / 3.3); // y = 65.4545454545454 y = 720.0 % (360.0 / 3.4); // y = 84.7058823529411 y = 720.0 % (360.0 / 3.5); // y = 102.857142857143 ←これの結果がおかしい y = 720.0 % (360.0 / 3.6); // y = 20 y = 720.0 % (360.0 / 3.7); // y = 38.918918918919 y = 720.0 % (360.0 / 3.8); // y = 56.8421052631578 y = 720.0 % (360.0 / 3.9); // y = 73.8461538461539 y = 720.0 % (360.0 / 4.0); // y = 0 で、360.0/3.5の結果である102.857142857143の末尾の数字を 変えながらテストすると、 y = 720.0 % 102.857142857140; // y = 1.99662508748588E-11 y = 720.0 % 102.857142857141; // y = 1.30029320644098E-11 y = 720.0 % 102.857142857142; // y = 6.03961325396085E-12 y = 720.0 % 102.857142857143; // y = 102.857142857142 ←これの結果がおかしい y = 720.0 % 102.857142857144; // y = 102.857142857136 ←これの結果がおかしい y = 720.0 % 102.857142857145; // y = 102.85714285713 ←これの結果がおかしい y = 720.0 % 102.857142857146; // y = 102.857142857124 ←これの結果がおかしい y = 720.0 % 102.857142857147; // y = 102.857142857118 ←これの結果がおかしい と、102.857142857143以上になるとうまく計算できないことが分かりました。 でも何故なんでしょうか。

---

---

[ 続きを読む ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef