为了账号安全,请及时绑定邮箱和手机立即绑定

如何使用浮点数修复 go math 运算中的计算错误?

如何使用浮点数修复 go math 运算中的计算错误?

Go
HUX布斯 2022-11-08 15:12:36
我需要标准化一个值(度)以使其在某个范围内。我需要提醒一下 360 除法。func testFunc(t *testing.T) {    v := -1050.6    n := int(v / 360)    f := v - float64(n)*360    fmt.Printf("f: %v\n", f)}我期望-330.6的值是我得到的值-330.5999999999999。当我这样做时会发生这种情况v - float64(n)*360。有没有办法摆脱这个错误?
查看完整描述

1 回答

?
小唯快跑啊

TA贡献1863条经验 获得超2个赞

您可以试试这个(逗号后 2 位数字):

fmt.Println(math.Round(f * 100) / 100)


查看完整回答
反对 回复 2022-11-08
  • 1 回答
  • 0 关注
  • 65 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信