Ruby 初心者スレッド Part 24
at TECH
334:デフォルトの名無しさん
09/01/10 21:02:00
しまったメインの話題を途中やめにしてた
数値を文字列に変換する過程である程度の誤差を丸めてくれるなら、
>>329みたいな過程を記述する必要がないってこと
たとえruby内で記録されている値が
1.19999999999 であっても
1.20000000001 であっても
表示するときは最下位を丸めて 1.2 になると。
浮動小数点はちょっとわかりにくいからwikipediaで調べてみそ
URLﾘﾝｸ(ja.wikipedia.org)浮動小数点数
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5503日前に更新/246 KB
担当:undef