- 668 名前：１３２人目の素数さん mailto:sage [03/08/23 15:31]
- なんかこのへんのフレームは、任意精度と厳密数値(Schemeでいうexactnum)との
混同に基づいているような気がする。
ということで、高校生君に
> 0.11111111111111111111111111
> って出て、それをクリックしてエンター押すと
> 0.1111111111111111111111111099999999999964597
> って出るんですがどうゆう意味があるのでしょうか？かなり気になるんですが。
の理由を分かりやすく教えてあげれ > 誰か
多倍長整数や高精度近似数は2^16または2^32進数(整数要素の配列)らしい。
あとMathematicaBookの「3.1数」には
123.4 機械精度
123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ
123.4567890123456789` 機械精度
123.456`200 200桁の任意精度 <- precision
123.456``200 200桁の任意確度 <- accuracy
1.234*^6 機械精度
1.234`200*^6 200桁の精度 <- 任意精度ととっていいのか？
とあるね。しかしこの例が微妙に分かり辛い...
リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。
これは任意精度なの？機械精度？だれか教えてくれますか？
わたしは普段整数しか扱わないので知らないままだった。
|
 |
