苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5042|回复: 0

[JavaScript] javascript对float数值进行运算的误差解決

[复制链接]
发表于 2013-5-9 00:16:49 | 显示全部楼层 |阅读模式
    <script language="javascript">
    alert(87593.21-3.12);
    </script>
    正确的显示的是:87590.09
    但是运算出来的确是:87590.09000000001
    可采用 toFixed处理,如:
    <script language="javascript">
    alert((87593.21-3.12).toFixed(2));
    </script>
    ---------------------------------
    toFixed 方法问题:
    <script language="javascript">
    alert(0.009.toFixed(2));
    </script>
    运算的结果0.00,但是需要的是 0.01
    解决方法:
    Number.prototype.toFixed = function(d) //d表示小数位保留几位小数
    {
    var s=this+"";if(!d)d=0;
    if(s.indexOf(".")==-1)s+=".";s+=new Array(d+1).join("0");
    if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+ (d+1) +"})?)\\d*$").test(s))
    {
    var s="0"+ RegExp.$2, pm=RegExp.$1, a=RegExp.$3.length, b=true;
    if (a==d+2){a=s.match(/\d/g); if (paeInt(a[a.length-1])>4)
    {
    for(var i=a.length-2; i>=0; i--) {a = paeInt(a)+1;
    if(a==10){a=0; b=i!=1;} else break;}
     }
     s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
    }if(b)s=s.substr(1);return (pm+s).replace(/\.$/, "");} return this+"";
    };
    相关信息:逆变器模拟乘法器的运算误差
    来源网站:直流电源 http://www.eyszh.com/


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-24 03:05

© 2014-2021

快速回复 返回顶部 返回列表