- 294 名前：デフォルトの名無しさん [2008/04/25(金) 22:58:05 ]
- 高精度計算サイト
ttp://keisan.casio.jp/has10/Menu.cgi
公開数日で、はてブ500ブックマーク突破。
有効桁数50桁。これ、BCDかなあ…。オリジナル精度の浮動小数点数かも。
プロの電卓屋が考えた「独自の桁数可変型演算システム」とやらの詳細が知りたいぜ！
君たちの大好きな 1 / 3 * 3 もちゃんと 1 になるぞ！
↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました |
【FPU】 浮動小数点 【SSE】
| |
read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef