現世代Javaの動向 1
at TECH
682:デフォルトの名無しさん
08/05/26 11:13:51
>>641 >>642
まあ、数値解析やっていれば
制度を落とさずに計算をもっと高速化する術はあるわけだが。
それもオーダーを減らすあの公式。
>>645
MathContextでどれくらい精度を高めているかにもよるんだよな。
EPS値が異常に小さい、「スケール」が異常にでかいと、やはり
配列のサイズが大きくなるのでパフォーマンスは落ちる。
128ビット程度だったらそこそこだろうか。それを超える1024ビットとかだと
パフォーマンスは確実に落ちるw
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5495日前に更新/239 KB
担当:undef