全部问题 > 当前问题

输出不了正确答案!除100.0丢失精度怎么解决?

blob.png

古月 2017-2-26 18:12:32

共 3 个回答

qqq 2017-2-26 21:44:42

你直接给i强制转换为float,不用除以100.0试试行不行。

古月 2017-2-28 08:43:36

回复 qqq:声明一个double类型的变量b,b=i/100.0,在fun函数里输出的b是正确答案,但是把double类型的变量b,作为返回值,得到的结果还是1234.569946.,。。。。。

qqq 2017-3-1 14:00:12

因为fun函数返回的是float类型的值吧,你强制返回double类型的可能出现了精度偏差。

你按照我之前回复的那样改改看。

问题来自: 编程题真题