因BigDecimal类型数据引出的问题详析

2023-09-08 20:37:05 330

前言

我们都知道,java中对大小数,高精度的计算都会用到BigDecimal.但是在实际应用中,运用BigDecimal还是会遇到一些问题，下面话不多说了，来一起看看详细的介绍吧

问题描述：

程序中需要判断一个字段是否为0（字段类型为BigDecimal），想都没想，对象的判断用equals？结果却与预期有一定的差距，看下面代码及运行结果。

publicstaticvoidmain(String[]args){
BigDecimaldecimal1=BigDecimal.valueOf(0);
BigDecimaldecimal2=newBigDecimal("0.00");
System.out.println("theresultis"+decimal1.equals(decimal2));
}

运行结果：

theresultisfalse

结论：BigDecimal类型比较相等不能简单的通过equals方法实现。

BigDecimal类的equals方法源码如下：

publicbooleanequals(Objectx){
if(!(xinstanceofBigDecimal))
returnfalse;
BigDecimalxDec=(BigDecimal)x;
if(x==this)
returntrue;
if(scale!=xDec.scale)//这里会比较数字的精度
returnfalse;
longs=this.intCompact;
longxs=xDec.intCompact;
if(s!=INFLATED){
if(xs==INFLATED)
xs=compactValFor(xDec.intVal);
returnxs==s;
}elseif(xs!=INFLATED)
returnxs==compactValFor(this.intVal);

returnthis.inflate().equals(xDec.inflate());
}

看上面的注释可以知道，BigDecimal类的equals方法会判断数字的精度，看下面的代码及运行结果：

publicstaticvoidmain(String[]args){
BigDecimaldecimal1=BigDecimal.valueOf(0).setScale(2);
BigDecimaldecimal2=newBigDecimal("0.00").setScale(2);
System.out.println("theresultis"+decimal1.equals(decimal2));
}

运行结果：

theresultistrue

结论：使用BigDecimal类equals方法判断两个BigDecimal类型的数据时，需要设置精度，否则结果可能不正确。

思考：每次都设置精度比较麻烦，有其他方式进行相等的比较吗？

看了下BigDecimal的方法列表，有一个名为compareTo的方法，通过注释可知，貌似可以进行不同精度的比较，看下面的代码。

publicstaticvoidmain(String[]args){
BigDecimaldecimal1=BigDecimal.valueOf(1.1);
BigDecimaldecimal2=newBigDecimal("1.10");
System.out.println("theresultis"+decimal1.compareTo(decimal2));
}

运行结果：

theresultis0

0表示两个数相等，所有可以通过compareTo实现不同精度的两个BigDecimal类型的数字是否相等的比较

引出的问题：公司的项目中，为了避免由于精度丢失引起问题，凡是有精度要求的字段用的都是BigDecimal类型。数据持久层用的是Mybatis框架，Mybatis的mapper文件中有些条件判断用的是BigDecimal对应的字段，如下：


select*fromtb_scorewhere1=1

andscore>#{score}

...

score是一个BigDecimal类型的字段，score!=0Mybatis是如何进行判断的，会不会用的是上面的equals方法？如果是那么项目上线会不会捅大篓子，想到这儿，有点怕了。写了个程序测了下，这样写完全没问题，能够达到我想要的目的。但是还是有点担心，看看Mybatis底层是如何实现的吧，以免以后犯类似的错误嘛。

经过分析调试，很快就找到了关键代码的位置，如下：

publicclassExpressionEvaluator{

publicbooleanevaluateBoolean(Stringexpression,ObjectparameterObject){
Objectvalue=OgnlCache.getValue(expression,parameterObject);
if(valueinstanceofBoolean){
return(Boolean)value;
}
if(valueinstanceofNumber){
return!newBigDecimal(String.valueOf(value)).equals(BigDecimal.ZERO);
}
returnvalue!=null;
}
...

publicfinalclassOgnlCache{

....
publicstaticObjectgetValue(Stringexpression,Objectroot){
try{
Mapcontext=Ognl.createDefaultContext(root,newOgnlClassResolver());
returnOgnl.getValue(parseExpression(expression),context,root);
}catch(OgnlExceptione){
thrownewBuilderException("Errorevaluatingexpression'"+expression+"'.Cause:"+e,e);
}
}

用的是表达式求值，Ognl这个类的竟然没有源码，apache的官网上找了下，是有相应的源码的，只是需要单独下载，真麻烦，算了不看了。据说底层用的是Spring的ognl表达式，我也不关心了。但是以后如果不确定mapper中的test是否正确咋个办？

想了下，还是写一个工具类在拿不准的时候用一下吧，反正拿不准的时候肯定很少，所以随便写了简单的吧，如下：

publicstaticvoidmain(String[]args){
ExpressionEvaluatorevaluator=newExpressionEvaluator();
Stringexpression="score!=nullandscore!=0";
DynamicContextcontext=newDynamicContext(newConfiguration(),null);
context.bind("score",BigDecimal.valueOf(0.1));
Booleanflag=evaluator.evaluateBoolean(expression,context.getBindings());
System.out.println("theresultis"+flag);
}

运行结果：

theresultistrue

总结

开发过程中，一定要细心去处理细节上的东西，不然一不小心就跳坑里了，轻则系统造成数据的不一致，修复数据；重则造成重大的损失....

好了，以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对毛票票的支持。

因BigDecimal类型数据引出的问题详析

热门推荐

随机推荐