[表示 : 全て 最新50 1-99 101- 201- 301- 401- 501- 601- 701- 801- 2ch.scのread.cgiへ]
Update time : 08/26 16:45 / Filesize : 223 KB / Number-of Response : 867
[このスレッドの書き込みを削除する]
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧] [類似スレッド一覧]

↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

ゆるAVR

724 名前：774ワット発電中さん mailto:sage [2022/12/08(木) 21:10:21.21 ID:nGHL48ik.net]
frexpで指数分離し0.5～1の範囲に
定数との比較3回で8分割
リニア近所
二次収束を1回
これでfloat精度になる

double精度の場合
float精度後三次収束か、
32bit固定小数点精度計算後二次収束

平方根も立方根も4乗根も同じ




[ 続きを読む ] / [ 携帯版 ]
全部読む 前100 次100 最新50 ▲ [ このスレをブックマーク！ 携帯に送る ] 2chのread.cgiへ
[＋板 最近立ったスレ＆熱いスレ一覧 : ＋板 最近立ったスレ／記者別一覧]（ ´∀｀）＜223KB

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef