[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 2chのread.cgiへ]
Update time : 05/09 16:27 / Filesize : 247 KB / Number-of Response : 983
[このスレッドの書き込みを削除する]
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧] [類似スレッド一覧]

↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

Macで学術系ソフト研究室のMac・4

948 名前：kur [2008/12/05(金) 15:29:43 ID:L0WzV7PA0]
はじめまして．
階乗を求めるプログラムを書いていて気づいたんですけど，
電卓（mac純正）の計算結果が明らかにおかしいんです．
どうやら100付近の階乗でのみ値がずれるようです．

自作プログラム，エクセル等と比較したところ，
100！はおよそ9.3326E+157なのですが1.8446e+146となります．
誤差とは呼べないほどずれるので気になります．

このバージョンのみのバグでしょうか？？




[ 続きを読む ] / [ 携帯版 ]
全部読む 前100 次100 最新50 ▲ [ このスレをブックマーク！ 携帯に送る ] 2chのread.cgiへ
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧]（ ´∀｀）＜247KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef