- 1 名前：デフォルトの名無しさん [2007/05/27(日) 00:06:58 ]
- ・まじめにExcelの機能を追及してみようと思う奇特なひと
・スキルがないのに無理やりVBAの仕事を押し付けられた普通のひと
・VBAなんていまさらやりたくないのに業務で仕方なく使っているひと
・とにかく漏れにこんな仕事まわすなと怒っているひと
そんなM$大好きなひとからアンチM$なひとたちまで幅広くカバーするスレです
前スレ
pc11.2ch.net/test/read.cgi/tech/1168308855/
- 921 名前：デフォルトの名無しさん mailto:sage [2007/09/10(月) 19:24:40 ]
- >>917
そのページ、怪しくない？
「0.1 は、実は 0.1000…000555115123…625です」みたいな書き方しているけど、
右側(小数点以下20桁以降)は、ただのゴミ。
それだけの桁数をもっているわけじゃない。
- 922 名前：デフォルトの名無しさん mailto:sage [2007/09/10(月) 22:23:56 ]
- >>921
＞「0.1 は、実は 0.1000…000555115123…625です」みたいな書き方しているけど、
初心者にも画面上で分かりやすいように画面表示上での最高桁を使っているわけで
説明しやすくするための方便かと。
日経ソフトウェアではなくビジネスマン向けの「日経PC21」だし無駄に厳密にやっても混乱させるだけだし。
一応フォローとして同じ連載中で「IEEE 754浮動小数点数」の仕組みとかもやってるが。
# Excelのワークシート関数利用に関しては結構マニアックな雑誌なので一般ユーザに渡すと結構重宝されたりするけど＞日経PC２１
あと >>917 の通り、これ以外でもぐぐればいくらでもある。
そういや8bit機であるMSXのBASICの浮動小数点がBCD利用で
PC98のN88-BASIC(86)より精度が高かったことを思い出した
その分、元々遅いのが更に遅くなっているが。
|
 |
