機械語なら俺に質問しろ!
at TECH
210:デフォルトの名無しさん
03/12/15 02:11
>>207
フォーマットは、IEEEの規格があるのでCPUのマニュアルなんかに書いてあるはず。
足し算引き算は、指数部の桁を合わせて仮数部を計算。
掛算は、指数部を足し算して仮数部だけで掛算。
割算は、指数部を引き算して仮数部だけで割算。
誤差がどうのこうのってな事があるので、数値演算の本を読んだほうがいいと思う。
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5400日前に更新/154 KB
担当:undef