大佬们帮忙看看这个问题

谢老师 2022-5-30 487

麻烦看一下这个是什么问题,两个相等的值相减,得出负数。_大佬们帮忙看看这个问题

_大佬们帮忙看看这个问题

最新回复 (8)
  • 小胡哈 2022-5-30
    2

    -1.1368683772162e-13

    这是科学计数法表示的浮点数,它非常接近0.

    这涉及到计算机原理方面的知识,你可以看下这个知乎话题:https://www.zhihu.com/question/25457573


    你在编写RPA程序的时候,注意把浮点数进行四舍五入即可。

  • 谢老师 2022-5-30
    3
    小胡哈 -1.1368683772162e-13这是科学计数法表示的浮点数,它非常接近0.这涉及到计算机原理方面的知识,你可以看下这个知乎话题:https://www.zhihu.com/question/2 ...
    浮点数不能被四舍五入,因为涉及金额的数据(需要精确到小数点后两位)。
  • lhui 2022-5-30
    4
    其实 UB是接受decimal的,但是我不知道怎么去定义它。
  • 小胡哈 2022-5-30
    5
    谢旺威 浮点数不能被四舍五入,因为涉及金额的数据(需要精确到小数点后两位)。

    四舍五入,保留2位小数,这样也不能满足业务需求是吗?


    或者看看这个插件:https://forum.uibot.com.cn/thread-12663.htm



  • 小胡哈 2022-5-30
    6
    lhui 其实 UB是接受decimal的,但是我不知道怎么去定义它。

    可能是因为Decimal不是UiBot的基本数据类型吧(比如集合也不是),有专门的命令可以转换。


  • lhui 2022-5-31
    7
    小胡哈 可能是因为Decimal不是UiBot的基本数据类型吧(比如集合也不是),有专门的命令可以转换。
    要想写入Excel变成人民币格式,我试过把数字转化成2位小数的十进制数字写进去就可以了。
  • 谢老师 2022-5-31
    8
    小胡哈 四舍五入,保留2位小数,这样也不能满足业务需求是吗?或者看看这个插件:https://forum.uibot.com.cn/thread-12663.htm
    可以了,问题解决了。大佬
  • 小胡哈 2022-5-31
    9
    谢旺威 可以了,问题解决了。大佬
    好的,不客气。大佬担不起,祝工作、学习愉快。
返回
发新帖