[表示 : 全て 最新50 1-99 2chのread.cgiへ]
Update time : 05/09 18:59 / Filesize : 14 KB / Number-of Response : 85
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

無限精度実数ライブラリRealLib



19 名前:デフォルトの名無しさん [2009/07/23(木) 12:45:48 ]
どうやら1/3とかは式の形のままで保持しているようだ。
そして必要に応じた精度で値を返しているらしい。
だから例えば1/3*3は内部的には1なわけではなく、必要に応じて自動的に必要な精度を定めて1.00000000000000000000000…と返ってくる。







[ 続きを読む ] / [ 携帯版 ]

全部読む 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧](*・∀・)<14KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef