[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 901- 1001- 2chのread.cgiへ]
Update time : 12/19 02:05 / Filesize : 264 KB / Number-of Response : 1002
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

〓Mathematica〓



672 名前:132人目の素数さん mailto:sage [03/08/23 20:33]
>>668
>   123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ
わかってて書いてるのかも知れないが、システムによって機械精度の桁が違うから。
計算速度のために機械精度で扱える時はあつかおうとするという
Mathematicaの設計の結果。

>  リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。
digits.digitsって?

>>670
そのプログラムバグってるぞ。
x = 0.9999999999999999999999999
で試してみ。
# というかRationalize[x,0]の不完全版を回りくどくやっているだけ。
欲しいのは
FromDigits[RealDigits[x], 10]
あたりか?

>>671
状況が良くわからないが、
If[x > 0, ..., ...][[2]]
とか、もしかしたら
Simplify[If[x > 0, ..., ...], x > 0]
とか。






[ 続きを読む ] / [ 携帯版 ]

全部読む 前100 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<264KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef