〓Mathematica〓 - 暇つぶし2ch

〓Mathematica〓 at MATH

646:１３２人目の素数さん
03/08/21 19:01
>>644
あのさ、Mathematica では小数点を付けた数値は機械精度
で計算されるとマニュアルに書いてあるから、
0.11111111111111111111111111
と書いた時点でこれは
11111111111111111111111111/100000000000000000000000000
とは全然違う値になるわけだ。だから、もし
0.11111111111111111111111110000000000000000000
とかになったら、Mathematicaは機械精度の計算を唄っておきながら
実際にはサポートされていないことになる。

この前も同じような質問があったけど、今の大学って数値計算の理論
とか教えないんだろうか。もし習ったことが無いなら、そういう技術者や
科学者にとって必要最小限のことも教えない大学なんて行く意味がないよ。
>>641や>>642、>>644が通っている大学の学長は、こういう不祥事（と
言っても良いよね）に対する記者会見を開いても良いぐらいだと思う。鶴を
燃やした事件みたいにさ。高校生だったら、まあ仕方ないけど。

いや、今日は社会人になっても、２次方程式の解を計算するルーチンで
解の公式をそのまま使うような馬鹿に遭遇したんで、イライラしてるのかも
しれん。桁落ちが起きるだろ、アホが！お前の先輩の文型出身の奴でも
ちゃんと場合わけして回避してたぞ。

次ページ

続きを表示

1を表示