JavaScript小数运算精度丢失问题解决方案 |
您所在的位置：网站首页 › js解决小数精度问题 › JavaScript小数运算精度丢失问题解决方案 |
JavaScript小数运算精度丢失问题解决方案
JavaScript中的数值计算会存在精度丢失问题，这是因为JavaScript使用IEEE 754标准的浮点数表示法来表示数字，这种表示方法无法精确表示所有数字，特别是涉及到小数的时候。除javascript外，java、python等都有类似问题，因为浮点数IEEE754是被普遍使用的标准 示例 console.log(0.1 + 0.2) // 0.30000000000000004 console.log(0.2 + 0.4) // 0.6000000000000001 console.log(19.9 * 100) // 1989.9999999999998 根源整数：因为数据太大，最大数2^53 小数：因为小数在转换成二进制时出现了无效循环 解决方案对于整数，前端出现问题的几率可能比较低，只要不超过2^53就不会丢失精度 对于小数，前端出现问题的几率还是很多的，先把小数变成整数（乘倍数），再缩小回原来倍数（除倍数） 实现思路判断两个数的类型和值是否正确，如果不正确则返回null或抛出错误。 判断两个数的小数位数，取其中较大的小数位数，将两个数都扩大相应倍数，转换成整数。 进行数值运算，得到结果。 ChatGPT提供的方法 function calculate(num1, num2, operator) { // 判断类型和值是否正确 if (typeof num1 !== 'number' || typeof num2 !== 'number' || isNaN(num1) || isNaN(num2)) { return null; } // 判断运算符是否正确 if (operator !== '+' && operator !== '-' && operator !== '*' && operator !== '/') { return null; } // 正则验证 if (!/^-?\d+(\.\d+)?$/.test(num1) || !/^-?\d+(\.\d+)?$/.test(num2)) { return NaN; } // 将两个数扩大相应倍数 const multiplier = Math.pow(10, Math.max(getDecimalDigits(num1), getDecimalDigits(num2))); const int1 = Math.round(num1 * multiplier); const int2 = Math.round(num2 * multiplier); // 进行数值运算 let result; switch (operator) { case "+": result = (int1 + int2) / multiplier; break; case "-": result = (int1 - int2) / multiplier; break; case "*": result = (int1 * int2) / Math.pow(multiplier, 2); break; case "/": result = (int1 / int2) * (multiplier / Math.pow(10, getDecimalDigits(num2))); break; default: result = NaN; } return result; } function getDecimalDigits(num) { if (Number.isInteger(num)) { return 0; } return num.toString().split(".")[1].length; } console.log(calculate(0.1, 0.2, '+')) // 0.3 console.log(calculate(0.2, 0.4, '+')) // 0.6 console.log(calculate(19.9, 100, '*')) // 1990G|Z|H回复 1 可获取电子书
本文由mdnice多平台发布 |
【本文地址】
公司简介
联系我们
今日新闻 |
点击排行 |
|
推荐新闻 |
图片新闻 |
|
专题文章 |