【求助】计算小数点后一位,结果多出小数点很多位

曾辉 15天前 79

dim y=[]

for x=1 to 5

    y[x]=3.5*x+2.1

next    

TracePrint y


第9行:[
null,
5.5999999999999996,
9.0999999999999996,
12.6,
16.100000000000001,
19.600000000000001
]

为什么y的值后面有很多小数点,我计算的明明只有1个小数点。请问为什么会这样,以及怎么解决,谢谢~

最新回复 (3)
  • lu-001 15天前
    2
    遍历输出显示正确,整体输出显示很长小数位,难道说是bug
  • 离哈 15天前
    3
    浮点数在程序中的显现形式都是这样的,把你的代码改一下,如果只需要小数点后面一位的话:
    dim dRet = ""
    dim y=[]

    for x=1 to 5

        y[x]=3.5*x+2.1

    next    

    bRet = IsArray(y)
    For Each value In y
    TracePrint CNumber(value)

     
    Next

  • 曾辉 14天前
    4
    谢谢
返回
发新帖