Python decimal模块使用方法详解
decimal模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持
1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。
2.要从浮点数据转换为Decimal类型
fromdecimalimport*
Decimal.from_float(12.222)
#结果为Decimal('12.2219999999999995310417943983338773250579833984375')
3.通过设定有效数字,限定结果样式
fromdecimalimport*
getcontext().prec=6
Decimal(1)/Decimal(7)
#结果为Decimal('0.142857'),六个有效数字
4.四舍五入,保留几位小数
fromdecimalimport*
Decimal('50.5679').quantize(Decimal('0.00'))
#结果为Decimal('50.57'),结果四舍五入保留了两位小数
5.Decimal结果转化为string
fromdecimalimport*
str(Decimal('3.40').quantize(Decimal('0.0')))
#结果为'3.4',字符串类型
Python3中decimal处理计算精度问题示例
#!/usr/bin/python3 #coding:utf-8 importdecimal fromdecimalimportDecimal,getcontext defdemo(): """ 取整问题: ROUND_CEILING总是趋向无穷大向上取整 ROUND_DOWN总是趋向0取整 ROUND_FLOOR总是趋向负无穷大向下取整 ROUND_HALF_DOWN如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整 ROUND_HALF_EVEN类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。 偶数值会导致结果向下取整,奇数值导致结果向上取整 ROUND_HALF_UP类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整 ROUND_UP朝0的反方向取整 ROUND_05UP如果最后一位是0或5,则朝0的反方向取整;否则向0取整 """ #1.常规计算 getcontext().prec=9 r1=Decimal(1)/Decimal(3) print("r1",r1)#r10.333333333 #2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数 r2=Decimal(10)/Decimal(3) print("r2",r2)#r23.33333333 #3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数 r3=Decimal(1)/Decimal(3) print("r3",r3.quantize(Decimal('0.00000000')))#r30.33333333 r4=Decimal(10)/Decimal(3) print("r4",r4.quantize(Decimal('0.00000000')))#r43.33333333 r5=Decimal(10)/Decimal(str(1.5)) print("r5",r5.quantize(Decimal('0.00000000')))#r56.66666667 #4.向上取整 getcontext().rounding=getattr(decimal,'ROUND_CEILING')#总是趋向无穷大向上取整 r6=Decimal(10)/Decimal(str(1.5))#r66.66666667 print("r6",r6.quantize(Decimal('0.00000000'))) r7=Decimal(10)/Decimal(3)#r73.33333334 print("r7",r7.quantize(Decimal('0.00000000'))) #5.向下取整 getcontext().rounding=getattr(decimal,'ROUND_FLOOR')#总是趋向无穷大向下取整 r8=Decimal(10)/Decimal(str(1.5))#r86.66666666 print("r8",r8.quantize(Decimal('0.00000000'))) r9=Decimal(10)/Decimal(3)#r93.33333333 print("r9",r9.quantize(Decimal('0.00000000'))) if__name__=='__main__': demo()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持毛票票。