1 个回答
0 赞同
dolpindb除法和精度严重BUG
浮点数比较是差值和很小的值比大小 举例如下： a=0.9b=0.8c=1\(a-b)print(string(c)) //10.000000000000001abs(c-10)< 0.0000001 //true
回答于 2021-10-19 09:52
浮点数比较是差值和很小的值比大小 举例如下： a=0.9b=0.8c=1\(a-b)print(string(c)) //10.000000000000001abs(c-10)< 0.0000001 //true
回答于 2021-10-19 09:52