- 1 名前:デフォルトの名無しさん [2008/01/04(金) 14:25:44 ]
- 主にx86系で浮動小数点を扱う話題
- 83 名前:デフォルトの名無しさん mailto:sage [2008/01/18(金) 16:32:04 ]
- あとx87も普通にIEEE754準拠してる件について
- 84 名前:デフォルトの名無しさん [2008/01/18(金) 17:54:10 ]
- つーか、8087がIEEE754の元になったんじゃなかったっけ?
- 85 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 01:00:35 ]
- だね。
- 86 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 19:15:52 ]
- しかしなんで指数部のゲタが1024じゃなくて1023なんだろ(倍精度)
指数部の最初のビットを見れば1以上か否かわかる、ように した方が美しいと思うんだが
- 87 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 19:27:30 ]
- 奇数じゃないと指数の上限と下限の絶対値が等しくならない
- 88 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 19:29:39 ]
- Infinity/NaN 用のフラグが必要だから
- 89 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 19:38:59 ]
- そもそも浮動小数点というのが分からない
- 90 名前:デフォルトの名無しさん mailto:sage [2008/01/19(土) 19:43:23 ]
- >>87
ばか?
- 91 名前:デフォルトの名無しさん mailto:sage [2008/01/21(月) 22:10:51 ]
- 0x400の方が綺麗だよね、1以上の総数と1未満の正数の総数が等しいし。
最小の正数の逆数が飛んでしまうとかそんな理由か。
- 92 名前:デフォルトの名無しさん mailto:sage [2008/01/26(土) 22:41:46 ]
-
∧∧ ミ _ ドスッ ( ,,)┌─┴┴──┐ / つ ここでBCD.│ 〜′ /´ └─┬┬――┘ ∪ ∪ ││ _ε3
- 93 名前:デフォルトの名無しさん [2008/01/27(日) 00:03:52 ]
- 453 名前: デフォルトの名無しさん 投稿日: 04/08/09 23:53
こんなのでいいか?テンプレ。 >451 Q1. BCDだと誤差出ないよね? A1. ではBCDで1÷3を計算してみよ。 Q2. IEEE754 が 1÷10 を正確に表せないのはけしからん。 A2. 1÷3 を有限桁で表せない10進数もけしからんよね。 Q.3 とにかく浮動小数は誤差が出るって聞いたんだい! A.3 だからといってBCDに誤差が出ないわけではない。 Q.4 キー!でも浮動小数の誤差の出方はわかりづらいだろ! A.4 BCDの誤差の出方よりわかりやすいという職業の人もいる。 Q.5 BCDをバカにするな!金融をバカにするかぁ技術者さんよぉ! A.5 あなたの被害妄想。 続く… 460 名前: デフォルトの名無しさん [sage] 投稿日: 04/08/10 11:53 Q6. バーカバーカ!誤差の許されない分野にBCDが使われてるよ! A6. 本当なの?じゃあBCDを正しく理解できている優秀なSEに感謝しましょう。 Q7. でもでも誤差の許されない分野にBCDが使われてるよ! A7. しつこいね。BCDを使うと誤差を許さなくなるわけではないよ。 Q8. オーゥワタシ、メソポタミアジンデース。ニポンジン10進スキネー。ナゼ? A8. 祖先から伝えられてきた日本の美しい伝統だからです。
- 94 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 00:06:24 ]
- 誤差が嫌なら有理数クラスでも使えばいい。
- 95 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 00:39:27 ]
- BCDで全桁計算すればよいと結論が出尽くしている。
- 96 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 00:43:50 ]
- 1/3
- 97 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 02:18:05 ]
- >>83
IEEE754に準拠したのは80387以降。(80287XLというのも一時期あったらしいが) それまで負の無限大は無かった。 tan91°とかどうしてたのかねぇ。
- 98 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 02:53:44 ]
- ばかだなBCDで扱えない数字はそもそも人間にも扱えない
- 99 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 09:02:07 ]
- 分数で良いじゃん
- 100 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 09:08:41 ]
- SSE4のベンチマークまだー?
- 101 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 10:16:03 ]
- プログラマに数学は必要かという問いに対して別にいらないんじゃね?と思っていたんだが・・・
- 102 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 11:46:35 ]
- >>97
馬鹿が居る。
- 103 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 11:50:25 ]
- >>97 制御ワードの12bit(INFINITY CONTROL)は8087では有効でございます
- 104 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 12:15:40 ]
- >>99
無理数
- 105 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 12:48:41 ]
- 80287と80287XLはパフォーマンスの向上以外には具体的にはどのような非互換性があるんだろう
- 106 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 12:55:52 ]
- 多倍長計算とBCD計算の違いについて教えてください
- 107 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 13:07:37 ]
- BCD は 1 桁を 0〜9 で扱う。
多倍長計算はそういう制限がない。
- 108 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 13:47:36 ]
- BCDの多倍長は?
- 109 名前:日本語に不自由する人はこれだから困る mailto:sage [2008/01/27(日) 15:24:05 ]
- >>108
BCDという制限がついた多倍長。
- 110 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 15:49:23 ]
- BCD は BCD 用の命令が CPU に備わってることがある。
- 111 名前:デフォルトの名無しさん mailto:sage [2008/01/27(日) 20:47:35 ]
- >>86
整数命令で大小判定できるからじゃん? バイアスでなくて2の補数とかにしたい気持ちはよく解るが。
- 112 名前:デフォルトの名無しさん mailto:sage [2008/01/28(月) 10:23:49 ]
- >>92 MSX-BASICをお使いください
- 113 名前:デフォルトの名無しさん mailto:sage [2008/01/28(月) 10:24:53 ]
- DAAとかx86_64では無くなってるんでしょ?
- 114 名前:デフォルトの名無しさん mailto:sage [2008/01/28(月) 14:31:31 ]
- MSX-BASICの浮動小数点
符号部 ibit 指数部 7bit 0x40のげた付き10のべき 仮数部 短精度 24bit 倍精度 56bit 正規化されたBCD(6桁/14桁)
- 115 名前:デフォルトの名無しさん mailto:sage [2008/01/28(月) 20:05:49 ]
- >>111
> >>86 > 整数命令で大小判定できるからじゃん? それはゲタが1024だとできないの?
- 116 名前:デフォルトの名無しさん mailto:sage [2008/01/29(火) 02:55:27 ]
- >>111
2の補数用の比較命令使いたかったらまず仮数部をだな
- 117 名前:デフォルトの名無しさん mailto:sage [2008/01/29(火) 13:13:46 ]
- windowsの電卓オススメ
- 118 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 01:23:30 ]
- >>117
>windowsの電卓オススメ ヘルプによると一部有理数を使えるようだな。感心感心。 がしかし、関数電卓にすると平方根ボタンが消えるのはなぜだ? どうやら平方根は関数ではないらしい。 [x^2]の逆関数で何とかしのげるが。
- 119 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 01:32:16 ]
- 1/2乗って知ってる
- 120 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 01:33:01 ]
- x^2 の逆関数でいけるからボタンが無いんだよ
- 121 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 01:53:26 ]
- x^yの意味がわかってないな
- 122 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 01:57:21 ]
- XOR だよね!
- 123 名前:ヽ・´∀`・,,)っ━━━━━━┓ mailto:sage [2008/01/30(水) 02:07:00 ]
- そうだね累乗はx**yだね
- 124 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 03:09:32 ]
- もれは1/2計算するの面倒だから
.5乗している
- 125 名前:ヽ・´∀`・,,)っ━━━━━━┓ mailto:sage [2008/01/30(水) 03:17:50 ]
- ActiveScriptRubyについてるirbが便利。
- 126 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 15:06:54 ]
- [3][x^y][1][.][5][=]
[3][Inv][x^2]
- 127 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 17:54:58 ]
- 普通の電卓に平方根がついてる意味がわからん。標準偏差に使うのか?
簡単なループで計算できるからつけてみたら、その後ほぼ標準装備になったとか?
- 128 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 18:19:02 ]
- >>117 浮動小数点は文字列を使えという主張ですか
- 129 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 18:25:49 ]
- 0.1が正確に表現できるって意味じゃないか
- 130 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 18:38:36 ]
- BCD最強説
- 131 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 19:07:27 ]
- BCDは固定長です。
- 132 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 23:02:59 ]
- COBOLのパック形式をBCDと呼ぶのが正しいのだろうけど、
仮数部 X 10の指数部乗 の形式や 小数点以上32bit+小数点以下32bitといった10進数の表現も多い。
- 133 名前:デフォルトの名無しさん mailto:sage [2008/01/30(水) 23:11:32 ]
- BCD で可変長は可能だろ。
- 134 名前:デフォルトの名無しさん mailto:sage [2008/02/01(金) 07:01:47 ]
- >>117
Windowsの電卓をコマンドラインから実行して計算結果をもらうにはどうすればよいのでしょう?
- 135 名前:デフォルトの名無しさん mailto:sage [2008/02/01(金) 08:14:24 ]
- >>127
ttp://www.njg.co.jp/d/3594.html ttp://www.t-ueda.jp/edu-momo/chi_faq/2/route.htm
- 136 名前:デフォルトの名無しさん mailto:sage [2008/02/09(土) 00:55:33 ]
-
∧∧ ミ _ ドスッ ( ,,)┌─┴┴─────────┐ / つ ここでユークリッドの互除法. │ 〜′ /´ └─┬┬―───────―┘ ∪ ∪ ││ _ε3
- 137 名前:デフォルトの名無しさん [2008/02/10(日) 11:54:35 ]
- >>103
8087 デフォルトの射影的無限大ってよく解らないんだけど。 Projective モードで tan(90.000・・・°) を計算すると、 無限大の符号はどっち向くの?
- 138 名前:デフォルトの名無しさん mailto:sage [2008/02/11(月) 12:05:48 ]
- (90.000・・・°のラジアンは表現できない
8087FPTANのパラメータは[0, π/4)の範囲 8087デフォルトでは-∞と+∞の相違は意味が無い(+0,-0と同様) 実際には、80bit-->64bitの変換で色々起こると思う
- 139 名前:デフォルトの名無しさん mailto:sage [2008/02/12(火) 02:09:12 ]
- BCD信者に
89.999… == 90.000… が真であることを証明してもらおうか。
- 140 名前:デフォルトの名無しさん mailto:sage [2008/02/12(火) 12:29:46 ]
- IEEE754信者も
- 141 名前:デフォルトの名無しさん mailto:sage [2008/02/12(火) 14:14:23 ]
- IEEE754に循環小数は存在しませんっ。
先生そんなの認めませんっ。 無限桁BCDは世界最強なんだろ? 手始めに等号判定を実装してもらおうじゃないのさ。 アルゴリズムだけでもいいから示してくれ。 等号すら満足に行えない数値表記なんて何の役に立つ?
- 142 名前:デフォルトの名無しさん mailto:sage [2008/02/14(木) 10:16:56 ]
- 有限桁演算だと結局等号の意味が薄い件
- 143 名前:デフォルトの名無しさん mailto:sage [2008/02/16(土) 13:37:48 ]
- マシンイプシロンくらい気にしろと
- 144 名前:デフォルトの名無しさん mailto:sage [2008/02/16(土) 14:24:03 ]
- じっすうのひかくにとうごうをつかっちゃいけないって
おかあさんがゆってた
- 145 名前:デフォルトの名無しさん mailto:sage [2008/02/17(日) 21:28:35 ]
- >>144
ではどうしろと? A-Bが0だからといってA==Bとは限らない。 ママにそういってこい。
- 146 名前:デフォルトの名無しさん mailto:sage [2008/02/17(日) 21:50:29 ]
- >>145
どうもこうも、不等号を使うしかないだろ。
- 147 名前:デフォルトの名無しさん mailto:sage [2008/02/17(日) 21:56:15 ]
- 差が何らかの閾値以下かどうかチェックするのが常套手段
- 148 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 00:13:46 ]
- >>147
そうそう、マシンイプシロンあたりで。宿題スレでよくみます。
- 149 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 00:45:06 ]
- >>143
>>148 マシンイプシロンと等号になんの関係が? まさか、まさかとは思うが、君達は A==B を判定するのに A÷B させて1.0に迫るのを眺めているわけではないよな?
- 150 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 09:12:37 ]
- マシンイプシロンの精度で数値解析できれば苦労しないw
- 151 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 13:52:32 ]
- まさにA==Bを判定する必要がある場面を例示せよ。
行列ならほとんど積和算だし ソートは大小比較であり等号なんて使わない。 もしかして実数データをstable sortでもしたいのかい?
- 152 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 15:24:07 ]
- Aさんが直線上を時速2キロで歩いています。
Aさんの5キロ後方のBさんが時速3キロでAさんを追いかけ始めました。 おっと、A,B間を往復する時速5キロの犬が同時にBさんのもとを出発しました。 さて、ここで問題です。 (続く)
- 153 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 18:09:27 ]
- 私が博士論文で作った無限桁BCDライブラリによるとだな。
永遠にアキレスは亀に追いつけないと結論が出ておる。 よって常にA≠B。犬は老衰で死ぬ。
- 154 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 18:35:48 ]
- IEEE754 と微分方程式によるとだな、そもそもNot a Number(数ではない)と結論が出ておる。
もしかして犬は虚数なんじゃね?
- 155 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 19:36:53 ]
- ……AとBが出会った瞬間犬はどっちを向いているでしょうか?
- 156 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 20:03:48 ]
- >>151
ほぼ 0 を 0 に切り捨てる処理を書く事はたまにある。
- 157 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 20:16:35 ]
- ほぼ0なベクトルが与えられる可能性のあるときにを単位ベクトルに正規化するとき悩むな。
分岐を使わないいいい方法ってないかな?
- 158 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 20:18:15 ]
- どうせ長さ取得する必要があるんだし
分岐したんでいいんじゃないかな。
- 159 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 21:02:42 ]
- >>155
そりゃあ「尻尾の反対側」だろうな。 なんたって虚数犬だからな。 BがAを追い越した10分後にどっち向いてるかも興味があるな。
- 160 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 21:57:57 ]
- >>157
まずベクトルの要素の中から一番デカい数値を探すんだ。 そしたらそいつが1.0になるように他の全要素をスケーリングする。 ここまでは簡単だろ?n次元ベクトルならn-1回の比較とn回の割り算をすれば済む話だ。 できたか?できたら後はフツーに単位ベクトルを得るがよろし。二乗や平方根が出てくるだろうが、もはや二乗によるオーバーフローや平方根によるアンダーフローの危険性はぐっと減るはず。 まあようするにアレだ。単位球を得る前に、外接する立方体(一辺の長さは2.0な)を一度求めてみましょうという話だ。 …という仕事を昔データマイニングでしたなあ。
- 161 名前:デフォルトの名無しさん mailto:sage [2008/02/18(月) 22:06:02 ]
- 小さい数値が出てきてる時点で、
そのベクトルを求める際に 数値誤差がたんまり入ってる恐れがあるじゃん。 全体的なオーダーが小さい場合はそういう手法は役に立つと思うけど、 例えば 1 前後のオーダーが普通な時に 10^-14 みたいなサイズのベクトルがあったら それは多分もの凄い勢いで数値誤差を含んでる。 困るのは多分こういう時。
- 162 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 00:21:16 ]
- >>161
> 例えば 1 前後のオーダーが普通な時に > 10^-14 みたいなサイズのベクトルがあったら > それは多分もの凄い勢いで数値誤差を含んでる。 うーん、そういうものなの?誤差?物理とか計測の話だったの? データマイニングで言うとこんなケースかな。(単精度正規数の場合ね) あるとこにおでん屋さんがいました。 店長はベクトル(気温,売上高)を使ったデータマイニングで仕入れ管理を始めました。 「まあ大変。昨日まで1℃だった気温が突然1.17549435e-38℃よ!氷点下はまぬがれたけどシステムがSIGFPEを吐いて止まってしまったわ!」 さあどうしよう。そうだ!気温をセ氏からカ氏に変えたらいいのでは? 過去のデータは全て変換して、今日の気温32°Fっと…うまくいったようです! ということで、物理屋の諸君も単位を柔軟に変えてみることをお薦めしたい。 特に零点変更は効果的だ。
- 163 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 01:07:35 ]
- 興味深い話だ。
いま >>4 の第二フェーズあたりだな。このスレはここからがおもしろい。
- 164 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 02:04:43 ]
- 摂氏0℃付近になる事で問題が発生する状況が想像できないなあ。
- 165 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 02:22:08 ]
- もの凄く小さいベクトルは何らかの形で数値誤差が大きいかもしれないから、
それを正規化して果たしてどれだけの意味があるのか分からない、 ってのがあるんだよな。 演算でオーバーフローとか現れなかったとしても、 そうやって得たベクトルに意味はあるの? ってところ。 解析的に解くと、(もの凄く小さいながらも)とある方向を向いているはずなのに、 数値誤差のせいで別の方向を向いてるなんてことは普通にある。 そういうのはばさっと0ベクトル扱いにするのもありだと思うが、 全体のオーダーが小さい場合もあるかもしれないから、 どこから0ベクトル扱いにしていい物やら悩む。
- 166 名前:絶対零度付近ではいろいろ起きそうだがw mailto:sage [2008/02/19(火) 02:28:13 ]
- 摂氏-1度の氷に摂氏-1度の水を掛けると……
- 167 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 03:21:54 ]
- 温度なんて相対値か絶対温度の形でしか
式に現れないはずだからなあ。 原点が問題になることは無いはず。
- 168 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 10:35:27 ]
- 「ただ1回計算をしただけでは結果の正しさについてほとんど何もわからない」
(伊理,藤野:"数値計算の常識")
- 169 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 14:18:06 ]
- ただ1個の標本だけでは母集団の分散について何も言うことができない
- 170 名前:おでん屋のお姉さん mailto:sage [2008/02/19(火) 18:50:49 ]
- おでんやの店長(>162)です。
あたしはねぇ、気温を入力して売り上げが予想できればそれでいいの。 工学科卒のオーナーったらひどいのよ。 こないだの大晦日とか、気温も売り上げも0に近かったんだけど、 「何らかの形で数値誤差が大きいかもしれない」とか言い出すのよ!もー! 「それを正規化して果たしてどれだけの」やかましいわ、キー! あたしは一生懸命打ち込んでるの!気温が低いのも売り上げが伸びないのもれっきとした「事実」なの!暖かろうが寒かろうが「事実」に貴賎はないの! >168 >「ただ1回計算をしただけでは結果の正しさについてほとんど何もわからない」 何回計算させれば気が済むのよ!あたしはデートなの。もう後がないのよ! もういいわ。ム板に相談した私がバカだった。 ケルビン温度計買ってくるわ。そうすればあたしは幸せになれるのよね? どこで売ってるの?Amazon?楽天? …もし気温が0°Kになったらどうするかですって? そしたらまたセ氏に戻すわ。
- 171 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:09:53 ]
- >170
あなたが観測した気温が1.17549435e-38℃だったとして、 実際には温度計の目盛り線がちょっと曲がっていて 本当の気温はマイナス1.17549435e-38℃だったかも しれない。でここに出てくる数字だけから判断すると 相対誤差200%なんていう話になってしまう。 売り上げ予想は「事実」ではないでしょ? 入力する気温が氷点下かどうかで 「今月は赤字に転落する恐れがあります」なんて オーナーに報告しに行かなければならなくなる瀬戸際 にあなたは立っているかもしれない。 真冬日の定義に従って 「今シーズンの暖冬傾向は云々」という文章を 書くのを仕事としている気象庁の中の人は リアルでそういう状況なんじゃないかな。
- 172 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:17:09 ]
- >しれない。でここに出てくる数字だけから判断すると
>相対誤差200%なんていう話になってしまう。 ならねーよ (273.15 - 1.17549435e-38) 〜 (273.15 + 1.17549435e-38) だから誤差は0でいいよ
- 173 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:22:59 ]
- >>171
誤差の出し方全く分かってないな。
- 174 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:39:11 ]
- >172
だからー、170の使ってる予測式が 気温(セ氏度)×1万円 だったらどうすんの?て話。 物理だけが数学じゃねーぞ。 水と氷だって大違いだぞ。 >173 ここでは相対誤差でなく絶対誤差を使うのが大人のたしなみ。 こうですか分かりません!
- 175 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:41:38 ]
- >>174
1万円かけたところで誤差なんてないじゃん。 そもそも 「何との」 相対誤差を出したいんだ?
- 176 名前:デフォルトの名無しさん mailto:sage [2008/02/19(火) 21:49:36 ]
- 1.17549435e-34円も-1.17549435e-34円も
四捨五入すれば0円か…その通りだ 真の値と測定値との間の誤差…セ氏度表示で ってダメ?
- 177 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 15:30:24 ]
- そんなことより >157 よ、聞いてくれ。(>161、>165 も同類か?)
おでん屋のオーナーもよく聞きなさい。 ベクトルの大小はものの本質ではない。扱うベクトルが小さいからといって天文学者が量子力学者を馬鹿にするような行動は慎まねばならぬ。スケールの大小と精度の長さは区別せねばな。 >161 > 例えば 1 前後のオーダーが普通な時に > 10^-14 みたいなサイズのベクトルがあったら > それは多分もの凄い勢いで数値誤差を含んでる。 IEEE754単精度では1〜10^-37ぐらいを同じ精度で計算するのは朝飯前じゃがのう。 >165 > もの凄く小さいベクトルは何らかの形で数値誤差が大きいかもしれないから、 量子力学者のベクトル計算は天文学者より数値誤差が大きいとでもいうのかね? > 数値誤差のせいで別の方向を向いてるなんてことは普通にある。 で、何に困ってるのかね?おでん屋のお姉ちゃんを見習って温度計を買い換えたらどうかの?ベクトル要素の性質と単位ベクトルの用途を聞かんことにはなんとも答えられんのう。 > どこから0ベクトル扱いにしていい物やら悩む。 これこれ、あくまでも目的は単位ベクトルじゃ。そうじゃったよな? >157 という訳で状況を確認させてもらおう。状況が解らない以上、>157 には最大公約数的な答えしか返ってこないじゃろうな。多目的用途のデータマイニング屋さんのように。 ・「ほぼ0」ってどれぐらい?0.01ぐらい? ・ベクトル要素の単位は何?質量?気温?無次元数?IPアドレス? ・ベクトル要素のソースは何?計算結果?計測器?物理定数? ・単位ベクトルを得る目的は? ・当然浮動小数点だよな?
- 178 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 16:11:41 ]
- >IEEE754単精度では1〜10^-37ぐらいを同じ精度で計算するのは朝飯前じゃがのう。
よくわからないけど、 1.0 + 1.0 * 10^-37 が正確に計算できるってこと?
- 179 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 17:53:25 ]
- >>178
うむ、この程度の計算なら0.5ulpのハードルはらくらくクリアだな。
- 180 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 18:15:27 ]
- その計算は仮数部が128ビット以上必要だろJK
- 181 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 18:48:35 ]
- ビックリするかもしれないが、0.5ulpさえクリアすればそれが「正確」というものなのだよ…
- 182 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 18:56:37 ]
- >180
キミは禁断の「真実の値」に迫りたいのかい? 恐ろしいことに、このケースでは仮数部は何桁あっても足りないのだよ… こうして毎日何人ものプログラマーがBCDの暗黒面に落ちていくのだよ…
- 183 名前:デフォルトの名無しさん mailto:sage [2008/02/20(水) 19:05:00 ]
- >181
情報落ちは言い出した人の責任ですかそうですか >182 1.0 * 10^-37 を「有効数字2桁?」と考えた上での発言だ …前半の1.0のほうを忘れてたなそういえば
|

|