Mysql 乘法除法精度不一致问题(除法后四位小数)

所属分类: 数据库 / Mysql 阅读数: 799
收藏 0 赞 0 分享

问题

今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够。

select total_fee / 100 from orders

继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试

测试

测试bug和未知情况,我们一定要 最小复现,精简测试 ,防止其他语句对结果产生干扰。

select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01

并且在3/4台设备上运行,不同mysql版本环境都是这样子的结果。

所以初步得知 Mysql中,乘法和除法对小数点后的精度不一致

在国内的论坛中没有找到合适的资料,于是到国外论坛寻找,提问,交流。

答案

首先感谢其他前辈对问题的解答和指点,我们也将尽量详细地记录问题的排查。

文明之所以能延续,是因为它们有记忆。希望文章也能帮到更多的朋友。

  • 除法的精度默认是小数点后4位
  • 乘法的精度使用 操作数的精度和 的方式来判断,如例子中的 1*0.01 精度分别是小数点后0位和2位,那么就是 0+2 =2 结果也将使用2位精度

测试

select 1.00 * 0.01;
// 结果 0.0100

符合上诉结论。感谢国外前辈指教。

除法使用2位精度

那么我们的问题 如果是要坚持用除法解决,我们可以使用函数来进行转换精度,

CAST( @x / @y AS DECIMAL(m,n) )

DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。

@x和@y就是除数和被除数。

同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。

前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。

mysql相关说明文献

https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html

 In division performed with /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).

除法的精度规则

由上面引用的文献可知:当使用两个数值进行计算时,结果的精度由 第一个操作数的精度 + 系统变量div_precision_increment的值决定 ,如我们例子中的1 精度是0,系统变量精度是4位默认,所以得到的结果是4位精度

set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果

所以我们还可以通过修改默认变量,来改变除法的默认精度。

此时我们再测试

select 1.0 / 100;
// 结果 0.010 符合上文所述结论

更多精彩内容其他人还在看

MariaDB(MySQL)创建、删除、选择及数据类型使用详解

这篇文章主要介绍了MariaDB(MySQL)创建、删除、选择及数据类型使用详解的相关资料,需要的朋友可以参考下
收藏 0 赞 0 分享

mysql索引学习教程

在mysql 中,索引可以分为两种类型 hash索引和 btree索引。这篇文章主要介绍了mysql索引的相关知识,非常不错,具有参考借鉴价值,感兴趣的朋友一起看看吧
收藏 0 赞 0 分享

MySQL修改默认字符集编码的方法

这篇文章主要介绍了MySQL修改默认字符集编码的方法的相关资料,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

MySQL中实现插入或更新操作(类似Oracle的merge语句)

这篇文章主要介绍了在MySQL中实现插入或更新操作(类似Oracle的merge语句)的相关资料,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

mysql5.x升级到mysql5.7后导入之前数据库date出错的快速解决方法

这篇文章主要介绍了mysql5.x升级到mysql5.7后导入之前数据库date出错的快速解决方法,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

LNMP下使用命令行导出导入MySQL数据库的方法

这篇文章主要介绍了LNMP下使用命令行导出导入MySQL数据库的方法,需要的朋友可以参考下
收藏 0 赞 0 分享

MySql中的IFNULL、NULLIF和ISNULL用法详解

在做项目中发现MySql里的isnull和mssql里的有点不同。接下来小编通过本文给大家介绍MySql中的IFNULL、NULLIF和ISNULL用法详解的相关资料,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

Mysql 5.7 服务下载安装图文教程(经典版)

MySQL 5.7在诸多方面都进行了大幅的改进,主要在于安全性、灵活性、易用性、可用性和性能等几个方面。这篇文章主要介绍了Mysql5.7服务下载安装图文教程(经典版),需要的朋友可以参考下
收藏 0 赞 0 分享

SQL重复记录查询 查询多个字段、多表查询、删除重复记录的方法

下面小编就为大家带来一篇SQL重复记录查询 查询多个字段、多表查询、删除重复记录的方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享

mysql socket文件作用详解

这篇文章主要介绍了mysql socket文件作用的相关资料,需要的朋友可以参考下
收藏 0 赞 0 分享
查看更多