麻烦看一下这个是什么问题,两个相等的值相减,得出负数。
-1.1368683772162e-13
这是科学计数法表示的浮点数,它非常接近0.
这涉及到计算机原理方面的知识,你可以看下这个知乎话题:https://www.zhihu.com/question/25457573
你在编写RPA程序的时候,注意把浮点数进行四舍五入即可。
小胡哈 -1.1368683772162e-13这是科学计数法表示的浮点数,它非常接近0.这涉及到计算机原理方面的知识,你可以看下这个知乎话题:https://www.zhihu.com/question/2 ...
谢旺威 浮点数不能被四舍五入,因为涉及金额的数据(需要精确到小数点后两位)。
四舍五入,保留2位小数,这样也不能满足业务需求是吗?
或者看看这个插件:https://forum.uibot.com.cn/thread-12663.htm
lhui 其实 UB是接受decimal的,但是我不知道怎么去定义它。
可能是因为Decimal不是UiBot的基本数据类型吧(比如集合也不是),有专门的命令可以转换。
小胡哈 可能是因为Decimal不是UiBot的基本数据类型吧(比如集合也不是),有专门的命令可以转换。
小胡哈 四舍五入,保留2位小数,这样也不能满足业务需求是吗?或者看看这个插件:https://forum.uibot.com.cn/thread-12663.htm
谢旺威 可以了,问题解决了。大佬