ご希望のCGIを作成い� ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このｽﾚｯﾄﾞのURL
■項目テキスト
54:nobodyさん 06/05/07 03:53:32 JavaScriptは少数の計算に問題があって、例えば 0.1を足したのに0.09999999が足されてしまう などのような怪現象が起こることがある。 多分言いたかったのはこれのことだろう。 最後に上げたバージョンなら直ってるはずだ。 ちなみに少数点以下の桁数を揃えて表示するのはだるかったんで敢えてパスした。 55:nobodyさん 06/05/07 04:03:58 怪現象じゃねーよ。内部で2進数を使うコンピュータの仕様だよ。 56:nobodyさん 06/05/07 10:56:54 怪仕様と言った方が良かった？ 57:nobodyさん 06/05/08 08:39:16 >>56 怪でもなんでもないよ 浮動小数点の常識だろ 58:nobodyさん 06/05/08 11:49:18 こだわるねえ。 59:28 06/05/08 12:30:21 あー、言われて気が付いた。 現状だとプレビューでちゃんと計算されてても 実際に送信してみれば0.9999...になってしまうケースが あり得るって事か( ´ Д｀)ｼｮｳｽｳﾅﾝﾃｷﾗｲﾀﾞ >>57 perlかPHPで浮動小数演算の誤差を抑えるルーチンをきぼん。
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック！
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5372日前に更新/232 KB
担当:undef