用 float 存储金额,老板说损失从工资里扣!
公司最近在做交易系统,交易系统肯定是要和钱打交道的,和钱有关,自然而然很容易想到用float存储,但是使用float存储金额做的计算是近似计算。老板,用float做计算造成公司损失的钱都往你工资里扣。
哼,扣工资就扣工资。但还是得静下心来想想为什么不能用float。
为什么不能使用float存储金额
首先看个例子:FloatTest.java
public class FloatTest {
public static void main(String[] args) {
float f1 = 6.6f;
float f2 = 1.3f;
System.out.println(f1 + f2);
}
}
结果:7.8999996 和自己口算的值竟然不一样
计算机只认识0和1,所有类型的计算首先会转化为二进制的计算。
从计算机二进制角度计算 6.6 + 1.3 的过程
float底层存储
二进制的转化
对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。
整数部分的计算:6转化为二进制
所以6最终的二进制为110
小数部分的计算
将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2,再取整数部分,以此往复循环。
0.6转化为二进制
…进入循环,循环体为1001 所以0.6转化为二进制为0.10011001… 6.6转化为二进制为110.10011001…
规约化
通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2。
指数偏移值
指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127 6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001。
拼接6.6
求和
原来如此
不能使用float那用什么类型存储金额?
column_name decimal(P,D);
D:代表小数点后的位数 P:有效数字数的精度,小数点也算一位 测试例子 数据表的创建:
CREATE TABLE `test_decimal` (
`id` int(11) NOT NULL,
`amount` decimal(10,2) NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
对应的DAO层代码:TestDecimalDao.java
/**
* @description dao层
*
* @author JoyHe
* @date 2018/11/05
* @version 1.0
*/
@Repository
public interface TestDecimalDao {
@Select("select * from test_decimal where id = #{id}")
TestDecimal getTestDecimal(int id);
}
测试类:TestDecimalDaoTest.java
/**
* @description 测试类
*
* @author JoyHe
* @date 2018/11/05
* @version 1.0
*/
public class TestDecimalDaoTest extends BaseTest {
@Resource
private TestDecimalDao testDecimalDao;
@Test
public void test() {
TestDecimal testDecimal1 = testDecimalDao.getTestDecimal(1);
TestDecimal testDecimal2 = testDecimalDao.getTestDecimal(2);
BigDecimal result = testDecimal1.getAmount().add(testDecimal2.getAmount());
System.out.println(result.floatValue());
}
}
说明:jdbcType为decimal转化为javaType为BigDecimal 测试结果:
是符合预期的7.9
使用decimal存储类型的缺点
作者:何甜甜在吗
https://juejin.im/post/5c08db5ff265da611e4d7417
1、GitHub 标星 3.2w!史上最全技术人员面试手册!FackBoo发起和总结
5、37岁程序员被裁,120天没找到工作,无奈去小公司,结果懵了...