●EXCEL・VBAの教えて ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
305:デフォルトの名無しさん 07/02/18 13:41:13 dim giy as integer a=4937870 b=1.05 s=387 u=100 giy = WorksheetFunction.RoundDown(((a * b) / (s*u)), -1) 上のを実行するとなんでかオーバーフローするんですけど。 306:デフォルトの名無しさん 07/02/18 13:47:01 しませんでしたけど… 念のためLongにしといたらどーですか？ 307:299 07/02/18 13:51:43 >>304 まさにこれです 変数とかCellsとかforとかすごい勉強なります。 ありがとうございます >>303 最初なんのことだろうと思いましたが、304みてわかりました。step 3。 ありがとうございます。 308:デフォルトの名無しさん 07/02/18 13:56:43 デバッグしてa*bのところにマウスをもってくると、5184763.26454401 という数字が出ます。小数点以下の数字が原因かと思うんですけど。 309:デフォルトの名無しさん 07/02/18 14:11:26 >>308 それのどこがオーバフロー? 310:デフォルトの名無しさん 07/02/18 14:14:16 もしかして： 単精度で計算していて精度がでていないという落ち？
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5396日前に更新/123 KB
担当:undef