典型取值
典型取值
0、-1、1
int32: 2147483647、-2147483648
int64: 9223372036854775807
浮点: 0.1 + 0.2 的精度现象金额类计算不要用二进制浮点;测试时用 0.01、0.005 等值验证舍入规则是否符合业务约定。
| 取值补充 | 类型极值、溢出边界与业务上下限分开列 |
|---|---|
| 断言方式 | 边界值附近用容差比较,避免等号断言 |
数值边界除业务范围外还涉及数据类型极限:int32/int64 溢出、浮点精度、负数与零、大数相加的进位。
0、-1、1
int32: 2147483647、-2147483648
int64: 9223372036854775807
浮点: 0.1 + 0.2 的精度现象| 取值补充 | 类型极值、溢出边界与业务上下限分开列 |
|---|---|
| 断言方式 | 边界值附近用容差比较,避免等号断言 |