Ruby 初心者スレッド Part 24

Ruby 初心者スレッド ..

334:デフォルトの名無しさん
09/01/10 21:02:00
しまったメインの話題を途中やめにしてた

数値を文字列に変換する過程である程度の誤差を丸めてくれるなら、
>>329みたいな過程を記述する必要がないってこと

たとえruby内で記録されている値が
1.19999999999 であっても
1.20000000001 であっても
表示するときは最下位を丸めて 1.2 になると。

浮動小数点はちょっとわかりにくいからwikipediaで調べてみそ
URLﾘﾝｸ(ja.wikipedia.org)浮動小数点数

次ページ