[表示 : 全て 最新50 1-99 101- 201- 301- 401- 2chのread.cgiへ]
Update time : 10/10 17:38 / Filesize : 123 KB / Number-of Response : 462
[このスレッドの書き込みを削除する]
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

【FPU】 浮動小数点 【SSE】



229 名前:デフォルトの名無しさん mailto:sage [2008/02/22(金) 20:09:05 ]
こういうことか。

・O(1)のベクトルA1:(1.2, 2.3) ※ 有効桁16
・O(1)のベクトルA2:(2.6, 3.1) ※ 有効桁16

  ↓
ベクトルA1,A2でもの凄い計算
  ↓

・ベクトルA1':(2.46...1, 3.96...7) ※ 有効桁14
・ベクトルA2':(2.46...2, 3.96...6) ※ 有効桁14

  ↓
ベクトル C=A1'-A2' を計算。
  ↓

・ベクトルC:(-1e-13, 1e-13) ※ 有効桁1

・ベクトルCの単位ベクトル:(-1, 1) ※ 有効桁1以下w







[ 続きを読む ] / [ 携帯版 ]

全部読む 前100 次100 最新50 [ このスレをブックマーク! 携帯に送る ] 2chのread.cgiへ
[+板 最近立ったスレ&熱いスレ一覧 : +板 最近立ったスレ/記者別一覧]( ´∀`)<123KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef