我要评论tofixed() 方法可把 number 四舍五入为指定小数位数的数字。例如将数据num保留2位小数，则表示为：tofixed(num)；但是其四舍五入的规则与数学中的规则不同，使用的是银行家舍入规则，银行家舍入：所谓银行家舍入法，其实质是一种四舍六入五取偶（又称四舍六入五留双）法。具体规则如下：简单来说就是：四舍六入五考虑，五后非零就进一，五后为零看奇偶，五前为偶应舍去，五前为奇要进一。
经测试发现，在chorme下面，并没有完全遵守这个规则，尤其是5的后面没有数字的时候，不是这么判断的，如下：
var b = 1.335 b.tofixed(2) "1.33" var b = 1.345 b.tofixed(2) "1.34" var b = 1.355 b.tofixed(2) "1.35" var b = 1.365 b.tofixed(2) "1.36" var b = 1.375 b.tofixed(2) "1.38" var b = 1.385 b.tofixed(2) "1.39"
可以发现在chorme下没有完全去遵循这个规律，或许它有自己的算法，但是毕竟它没有遵循通用的银行家算法，所以tofixed这个方法在涉及到金钱计算的业务中还是少用.
总而言之：不论引入tofixed解决浮点数计算精度缺失的问题也好，它有没有使用银行家舍入法也罢，都是为了解决精度的问题，但是又离不开二进制浮点数的环境，但至少他帮助我们找到了问题所在，从而让我们有解决方法。
一开始的办法是把要四舍五入的后一位单独拎出来单独判断。
解决方法：
通过重写tofixed方法：
number.prototype.tofixed = function (n) {
let result = number.tostring();
const arr = result.split('.');
const integer = arr[0];
const decimal = arr[1];
result = integer + '.' + decimal.substr(0, n);
const last = decimal.substr(n, 1);// 四舍五入，转换为整数再处理，避免浮点数精度的损失
if (parseint(last, 10) >= 5) {
const x = math.pow(10, n);
result = ((parsefloat(result) * x) + 1) / x;
result = result.tofixed(n);
}
return result;
}然后又发现计算机二进制编码导致的精度问题，详见上一篇博客。
自己debugger，发现页面中的js进了死循环。很明显问题出在tofixed中回调了tofixed，结果没有走出来，继续debugger，又有了惊人的发现。以下是控制台测试：
console.log(2.115 * 100) // 211.50000000000003 console.log(2.0115 * 1000) // 2011.4999999999998
既然你一直进入循环，我就手动把你拉出来。
result = (math.round((parsefloat(result)) * x) + 1) / x;
最终完整的重写tofixed的方法
// tofixed兼容方法
number.prototype.tofixed = function (n) {
if (n > 20 || n < 0) {
throw new rangeerror('tofixed() digits argument must be between 0 and 20');
}
const number = this;
if (isnan(number) || number >= math.pow(10, 21)) {
return number.tostring();
}
if (typeof (n) == 'undefined' || n == 0) {
return (math.round(number)).tostring();
}
let result = number.tostring();
const arr = result.split('.');
// 整数的情况
if (arr.length < 2) {
result += '.';
for (let i = 0; i < n; i += 1) {
result += '0';
}
return result;
}
const integer = arr[0];
const decimal = arr[1];
if (decimal.length == n) {
return result;
}
if (decimal.length < n) {
for (let i = 0; i < n - decimal.length; i += 1) {
result += '0';
}
return result;
}
result = integer + '.' + decimal.substr(0, n);
const last = decimal.substr(n, 1);
// 四舍五入，转换为整数再处理，避免浮点数精度的损失
if (parseint(last, 10) >= 5) {
const x = math.pow(10, n);
result = (math.round((parsefloat(result) * x)) + 1) / x;
result = result.tofixed(n);
}
return result;
}总结
到此这篇关于js中tofixed(2)精度问题的原因以及解决办法的文章就介绍到这了,更多相关js tofixed(2)精度问题解决内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网！
发表评论