GBase 8a对 double 数值进行 round 取舍结果不是四舍五入问题分析及解决方案

首先说一下round函数：

ROUND(X)返回参数 X 四舍五入到最近的整数后的值。

ROUND(X,D)返回的 X 值，保留到小数点后 D 位（第 D 位的保留方式为四舍五入）。

问题现象

对 double 类型数值进行 round 取舍，结果不是四舍五入。

问题复现

gbase> create table t(c1 double);Query OK, 0 rows affected (Elapsed: 00:00:00.55)gbase> insert into t values(41.325); Query OK, 1 row affected (Elapsed: 00:00:00.03) gbase> select c1,round(c1,2) from t; +--------+-------------+ | c1     | round(c1,2) | +--------+-------------+ | 41.325 | 41.32       | +--------+-------------+ 1 row in set (Elapsed: 00:00:00.00)

问题分析

DOUBLE 代表一个浮点型数值，它所存储的数值不是一个准确值。所以造成了结果的差别。

对 double 类型作 round，采取了“四舍六入五凑偶”的规则。

“四舍六入五凑偶”规则说明

• 四舍”是指≤4 时舍去；
•  "六入"是指≥6 时进上；
•  "五凑偶"指的是根据 5 后面的数字来定，当 5 后有数时，舍 5 入 1；
• 当 5 后无数或为 0 时，分两种情况：

（1） 5 前为奇数，舍 5 入 1；

（2）5 前为偶数，舍 5 不进。

解决方案

限制物化结果（中间结果和最终结果）记录数的参数_gbase_result_threshold 总结如下：

• 参数值为 0 时，对物化结果集不做限制。
• 参数值不为 0 时，取值范围为[1，_gbase_result_threshold]。
•  _gbase_result_threshold 的最小值为 0（为 0 时对物化结果集不做限制），最大值为 140737488355325（2^47-3，GBase 8a Express 引擎以前支持的物化结果的最大记录数），默认值为 137438953472（2 的 37 次方）。

gbase> show variables like '%_gbase_result_threshold%'; +-------------------------+--------------+|Variable_name            | Value        | +-------------------------+--------------+ | _gbase_result_threshold | 137438953472 | +-------------------------+--------------+ 1 row in set (Elapsed: 00:00:00.00)