- 663 名前：660 mailto:sage [2007/10/16(火) 19:52:00 ]
- >>661ｻﾝ
「宿題片付けますスレ」とはちょっと違う気がしてここにしました
データは
3.14
5.00
3.57
5.44
2.14
7.00
5.00
3.33
以上8つの浮動小数点です。
エクセルの機能では1.560611144と出ます。
一方、Cで公式通りに組んだ物は1.459818と出ます。
プログラムミスの可能性を疑ってネット上のサンプルソースでも計算しましたが同じでした。
↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました |
スレ立てるまでもない質問はここで 85匹目
| |
read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef