首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > Ruby Rails >

Float round bug in ruby

2012-11-10 
Float round bug in ruby??ruby-1.8.7 1.55.round(1) 1.6 ruby-1.8.7 1.555.round(2) 1.56 ruby

Float round bug in ruby?

?

ruby-1.8.7 > 1.55.round(1) => 1.6 ruby-1.8.7 > 1.555.round(2) => 1.56 ruby-1.8.7 > 1.155.round(2) => 1.16 ruby-1.8.7 > 10.156.round(2) => 10.16ruby-1.8.7 > 10.155.round(2) => 10.15 ruby-1.8.7 > 10.165.round(2) => 10.16

?

ruby-1.9.2 > 10.155.round(2) => 10.15 ruby-1.9.2 > 10.165.round(2) => 10.16
?

?解决方法:

1.讲数据类型转变为decimal

2.

BigDecimal.new(10.155.to_s).round(2).to_f
?

?

热点排行