为了账号安全,请及时绑定邮箱和手机立即绑定

为什么3.14解析成32位浮点,后面会产生这么多小数。

为什么3.14解析成32位浮点,后面会产生这么多小数。

正在回答

1 回答

计算机无法精确表示浮点数,所以有精度这个概念,因而计算后的浮点点数一般都会默认显示有n位有效数字,3.14原本是64位转换32位计算后会显示32位精度的默认有效位数,而转换64时因实际就是64位精度并没进行真的转换而直接输出了原来的3.14

0 回复 有任何疑惑可以回复我~

举报

0/150
提交
取消
Golang之文本编码处理
  • 参与学习       15679    人
  • 解答问题       12    个

掌握对Golang语言中文本编码处理的应用, 搞定日常操作

进入课程

为什么3.14解析成32位浮点,后面会产生这么多小数。

我要回答 关注问题
意见反馈 帮助中心 APP下载
官方微信