Excel VBA質問スレ Part5
at TECH
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
800:デフォルトの名無しさん 08/02/22 20:07:05 >>792 倍精度の前のIEEE 754って、何を規定した規格の番号ですか？ 801:デフォルトの名無しさん 08/02/22 21:39:25 >>800 ググれ 浮動小数点数の規格だ 802:デフォルトの名無しさん 08/02/22 23:55:17 >>800 Excel2000辺りは倍精度だけど、2003辺りからは拡張倍精度になっているから要注意。 前者は10進数で概ね15桁、後者は10進数で概ね19桁の精度があることになる。 803:693 08/02/23 16:40:39 解決したよ。 Origin句を定数xlWindowsから、 Shift-Jisのコードページである"932"へ変更してみたところ 文字化けなく開くことができたのでご報告。 その辺の細かな挙動の違いにだいぶ時間使いました・・・。 今後の何かの参考になれば、ということで、ひとつ。 804:デフォルトの名無しさん 08/02/23 16:45:14 VBAやEWCELのlog関数で計算して、その答えから逆算してもとに戻してみたら3桁精度しかなかったのです。 精度をあげる方法がありましたら教えてください。
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
4794日前に更新/253 KB
担当:undef