ご希望のCGIを作成い ..
[
2ch
|
▼Menu
]
■コピペモード
□
スレを通常表示
□
オプションモード
□このスレッドのURL
■項目テキスト
57:nobodyさん 06/05/08 08:39:16 >>56 怪でもなんでもないよ 浮動小数点の常識だろ 58:nobodyさん 06/05/08 11:49:18 こだわるねえ。 59:28 06/05/08 12:30:21 あー、言われて気が付いた。 現状だとプレビューでちゃんと計算されてても 実際に送信してみれば0.9999...になってしまうケースが あり得るって事か( ´ Д`)ショウスウナンテキライダ >>57 perlかPHPで浮動小数演算の誤差を抑えるルーチンをきぼん。 60:!=57 06/05/08 13:23:45 >>59 この辺。 【Perl 】初心者コーナーPart5 http://pc.2ch.net/test/read.cgi/php/988728069/5-10 昔COBOL屋さんと仕事したとき、整数化されたデータ(10^n乗になってる)をもらって 内部処理とファイル保存は100倍値のまま、表示時だけ100で割る、とかやってた。 61:60 06/05/08 13:25:38 × 10^n乗になってる ○ 10^n倍になってる 62:nobodyさん 06/05/24 22:55:57 p2みたいの作って。 ついでに無料鯖対応ので。
次ページ
最新レス表示
スレッドの検索
類似スレ一覧
話題のニュース
おまかせリスト
▼オプションを表示
レスジャンプ
mixiチェック!
Twitterに投稿
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch
5374日前に更新/232 KB
担当:undef