苏飞论坛

标题: javascript对float数值进行运算的误差解決 [打印本页]

作者: xiguahi 时间: 2013-5-9 00:16
标题: javascript对float数值进行运算的误差解決
<script language="javascript">
alert(87593.21-3.12);
</script>
正确的显示的是:87590.09
但是运算出来的确是:87590.09000000001
可采用 toFixed处理，如：
<script language="javascript">
alert((87593.21-3.12).toFixed(2));
</script>
---------------------------------
toFixed 方法问题：
<script language="javascript">
alert(0.009.toFixed(2));
</script>
运算的结果0.00，但是需要的是 0.01
解决方法：
Number.prototype.toFixed = function(d) //d表示小数位保留几位小数
{
var s=this+"";if(!d)d=0;
if(s.indexOf(".")==-1)s+=".";s+=new Array(d+1).join("0");
if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+ (d+1) +"})?)\\d*$").test(s))
{
var s="0"+ RegExp.$2, pm=RegExp.$1, a=RegExp.$3.length, b=true;
if (a==d+2){a=s.match(/\d/g); if (paeInt(a[a.length-1])>4)
{
for(var i=a.length-2; i>=0; i--) {a = paeInt(a)+1;
if(a==10){a=0; b=i!=1;} else break;}
}
s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
}if(b)s=s.substr(1);return (pm+s).replace(/\.$/, "");} return this+"";
};
相关信息：逆变器模拟乘法器的运算误差
来源网站：直流电源 http://www.eyszh.com/

欢迎光临苏飞论坛 (http://www.sufeinet.com/)