http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 22307|回复: 17

[HttpHelper] 抓取json数据

[复制链接]
发表于 2014-5-29 16:34:56 | 显示全部楼层 |阅读模式
1金钱
本帖最后由 wxfy2011 于 2014-5-29 16:46 编辑

抓取http://jipiao.9588.com的机票数据,我抓包到后台地址
http://jipiao.9588.com/Flight/Fl ... =jsonp1401351764419
抓包返回一堆json格式的数据
[JavaScript] 纯文本查看 复制代码
jsonp1401351764419({"FlightItems":[{"Airline":"MU","AirportTax":50.0,"BasePrice":1130.0,"Cabins":[{"AdultPrice":3160.0,"CabinDesc":0,"CabinType":"F","ChildiePrice":1580.0,"Code":"F","DiscountRate":"全价","DiscountRateExp":100,"InfantPrice":320.0,"IsApply":false,"MarketingInfo":null,"Number":1,"SpecialOfferId":-1,"SpecialOfferTicketType":3,"RuleUrl":"http://jipiao.9588.com/Flight/ruleHtml?SpecialId=-1&CabinNo=F&FlyDate=05%2F29%2F2014%2000%3A00%3A00&AirLine=MU&DstAirportCode=PEK&OrgAirportCode=SHA","Tips":[],"SubtractPrice":3160.0,"SubtractAdultPrice":0.0,"SubtractChildiePrice":0.0,"SubtractInfantPrice":0.0,"ContainInsure":false}],"OrgAirport":"SHA","DstAirport":"PEK","DstDateTime":"2014-05-29 19:50","FlightNo":"MU5181","FuelTax":120.0,"HasMeal":true,"OpenCabinsCode":"F,","OrgTerm":"T2","DstTerm":"T2","MealCode":"D","OrgDateTime":"2014-05-29 17:40","PlaneStyle":"76A","PlaneUrl":"http://jipiao.9588.com/Flight/planeHtml?PlaneCode=76A","StopNumber":0,"FlyTime":130,"StopUrl":"http://jipiao.9588.com/Flight/stopHtml?FlightNo=MU5181&TravelStartDate=05%2F29%2F2014%2000%3A00%3A00","DstAirportName":"北京首都","OrgAirportName":"上海虹桥","AirlineName":"东方航空","PlaneType":" A ","Distance":1178,"TrunNum":0,"DstCityName":"","OrgCityName":""},{"Airline":"CA","AirportTax":50.0,"BasePrice":1130.0,"Cabins":[{"AdultPrice":4520.0,"CabinDesc":0,"CabinType":"F","ChildiePrice":1580


我上面地址
http://jipiao.9588.com/Flight/Fl ... =jsonp1401351764419
用httphelper抓取不成功,把jsoncallback=jsonp1401351764419 ,1401351764419换成毫秒也不行
最后发现这个地址有时间限制,在浏览器中开始几秒可以,过段时间就不行了。
我的代码如下
[C#] 纯文本查看 复制代码
           Random Random1 = new Random();
            DateTime d1 = new DateTime(1970, 1, 1);
            DateTime d2 = DateTime.Now.ToUniversalTime();
            TimeSpan ts = new TimeSpan(d2.Ticks - d1.Ticks);
            long begintime = (long)ts.TotalSeconds;
            int a = Random1.Next(100, 999);
           string aa = Convert.ToString(begintime) + Convert.ToString(a);

           HttpHelper  http = new HttpHelper();
           HttpItem item = new HttpItem()
            {
                URL = "http://jipiao.9588.com/Flight/FlightInfo?traveltype=Single&segnum=0&quantity=1&MoreTrip%5B0%5D.fromcity=%25E4%25B8%258A%25E6%25B5%25B7&MoreTrip%5B0%5D.tocity=%25E5%258C%2597%25E4%25BA%25AC&MoreTrip%5B0%5D.from=SHH&MoreTrip%5B0%5D.to=BJS&MoreTrip%5B0%5D.date=05%2F30%2F2014%2000%3A00%3A00&MoreTrip%5B1%5D.date=06%2F02%2F2014%2000%3A00%3A00&jsoncallback=jsonp"+aa,// URL     必需项   
                Method = "get",//URL     可选项 默认为Get   
                IsToLower = false,//得到的HTML代码是否转成小写     可选项默认转小写   
                Referer = "http://jipiao.9588.com",//来源URL     可选项   
                Timeout = 100000,//连接超时时间     可选项默认为100000   
                //Allowautoredirect = true,//是否根据301跳转     可选项   
                UserAgent = "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)",//用户的浏览器类型,版本,操作系统     可选项有默认值   
                ContentType = "text/html",//返回类型    可选项有默认值   
            };

            result = http.GetHtml(item);
            string html = result.Html;





1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-5-29 16:47:43 | 显示全部楼层
你访问一下页面会动态生成的,访问之前先取出这个值,然后再去获取就行了
回复

使用道具 举报

 楼主| 发表于 2014-5-29 16:50:24 | 显示全部楼层
站长苏飞 发表于 2014-5-29 16:47
你访问一下页面会动态生成的,访问之前先取出这个值,然后再去获取就行了

动态生成什么值,你是指“jsoncallback=jsonp1401351764419”这个吗?我看这个1401351764419这个值就是时间换成毫秒了
回复

使用道具 举报

发表于 2014-5-29 16:56:56 | 显示全部楼层
那网站卡死人不偿命啊。。。。半天打不开。。
回复

使用道具 举报

发表于 2014-5-29 16:57:14 | 显示全部楼层
网站 打不开,呵呵,
回复

使用道具 举报

 楼主| 发表于 2014-5-29 16:57:42 | 显示全部楼层
inghot 发表于 2014-5-29 16:56
那网站卡死人不偿命啊。。。。半天打不开。。

刚才好像有点问题,现在好了
回复

使用道具 举报

 楼主| 发表于 2014-5-29 16:58:27 | 显示全部楼层
站长苏飞 发表于 2014-5-29 16:57
网站 打不开,呵呵,

刚才好像有点问题,现在好了
回复

使用道具 举报

发表于 2014-5-29 17:03:57 | 显示全部楼层
老样子单击没有反映,
回复

使用道具 举报

 楼主| 发表于 2014-5-29 17:05:31 | 显示全部楼层
站长苏飞 发表于 2014-5-29 17:03
老样子单击没有反映,

真是怪了,我这边没事的,要不等老大有空了再帮忙给我看看吧,谢谢啦
回复

使用道具 举报

发表于 2014-5-29 17:10:06 | 显示全部楼层
wxfy2011 发表于 2014-5-29 17:05
真是怪了,我这边没事的,要不等老大有空了再帮忙给我看看吧,谢谢啦

好的,现在是单击没有反映,
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-24 10:58

© 2014-2021

快速回复 返回顶部 返回列表