极小值数据显示

ddb 服务 version : 2.00.9.1 2023.02.20 ; linux64

使用 vscode dolphindb 插件连接服务运行,插件版本:v2.0.921 ; 使用 GUI 也有同样的问题

极小值显示为0,在查询数据时就很困惑,还以为是 isNull 语法错了。

attachments-2023-03-YhiAONBk6421931e8f9c5.png实际数据为 

attachments-2023-03-qJDkB7b46421936592897.png




请先 登录 后评论

1 个回答

Alex - dba

点击GUI的菜单项File->Preference,在弹出的对话框中有个设置项 Default number of decimal places,通过这个配置项可设置浮点数的显示小数位数。

另外,浮点数有精度限制,浮点数比较建议用eqFloat函数。

请先 登录 后评论