Ruby中怎么解决Float型十进制小数运算问题
1 回答
慕的地10843
TA贡献1785条经验 获得超8个赞
在计算机几内部，小数不是按照四舍五入的方法的。因为计算机只有0和1，没有4和5，所以不能四舍五入的。 不管是float还是double，在处理末位时都是直接丢弃的。比如一个小数，应该是用33位二进制码才能完全表示的，但是float只有32位
- 1 回答
- 0 关注
- 875 浏览
添加回答
举报
0/150
提交
取消