Macで学術系ソフト研究室のMac・4
at MAC
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
950:kur 08/12/05 16:22:51 L0WzV7PA0 >>949 すいませんw OS X 10.3.9です． 電卓は3.1 (v3.2.1)です このmacだけなんでしょうか？ 951:名称未設定 08/12/05 17:02:15 8tdNs20r0 安心しろ、手元の10.3.9で確かめたら確かに1.8446e+146になったぞ。 多倍長整数と浮動小数点に関してはダメっぽいな > 3.1(v3.2.1) 952:名称未設定 08/12/05 18:54:47 /9cG2wob0 そんなんもん まてぃまてぃか で やらんかい!! 953:名称未設定 08/12/05 20:27:06 +Ghpai3r0 >>952 そういう問題じゃないだろw 科学計算でも y^x では10.0^128 でオーバーフローって出る。 でも、10.0^127 の結果に *10.0 をしたら 1e+128 ってでるなぁ。謎だ。 しかしこの手の話は、開発系のスレの方が良いかと思うがいかがなものかな？ 954:kur 08/12/05 22:10:08 z+v5G+vh0 105!を越えた辺りからはまた正しいんですよ オーバーフローではなさげ?? とりあえず結果が信用出来ないんで 他ので計算することにします． ありがとうございました！！
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5372日前に更新/247 KB
担当:undef