http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 8776|回复: 1

[咨询站长] 框架没有抓到正常的数据,抓到:必须使用适当的属性或方法修改此标头。 参数名:...

[复制链接]
发表于 2015-6-2 14:16:53 | 显示全部楼层 |阅读模式
1金钱
抓到的数据提示:必须使用适当的属性或方法修改此标头。 参数名: name


  • 抓包的数据:
  • Request Headersview source
    • Accept:
      text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8
    • Accept-Encoding:
      gzip,deflate,sdch
    • Accept-Language:
      zh-CN,zh;q=0.8
    • Cache-Control:
      max-age=0
    • Connection:
      keep-alive
    • Cookie:
      thw=cn; cna=lf7lDYKXkg8CAW5Ry3DRl/Nx; cainiao_abtest9_1=1; _m_h5_tk=ba6228672fc84a4107963dc4f79ae4aa_1433152957926; _m_h5_tk_enc=cbf2fb1d2398fc8CXXd6k9A%3D%3D; cookie2=1c04fe9948c2852c48b3bef9588a95b2; t=e5d6446daa08cba76d58909b4698cc46; l=AsLCuJtY1ZPzQWrBPEvLSFZxksYkk8at; isg=9F0FCD0DE639097FC1526A3AE4946084
    • Host:
      item.taobao.com
    • User-Agent:
      Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/30.0.1599.101 Safari/537.36







代码:


            HttpHelper hp = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://item.taobao.com/item.htm?spm=a230r.1.14.23.KoipeZ&id=38370837811&ns=1&abbucket=15",
                Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8",
                UserAgent = "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/30.0.1599.101 Safari/537.36",
                KeepAlive = true,
            };
            item.Header.Add("Referer", "http://s.taobao.com/search?q=%E6%B3%A1%E6%BE%A1%E7%90%83&commend=all&ssid=s5-e&search_type=item&sourceId=tb.index&spm=1.7274553.1997520841.d20&initiative_id=tbindexz_20150602");
            item.Header.Add("Host", "item.taobao.com");
            item.Header.Add("Connection", "keep-alive");
            item.Header.Add("Cache-Control", "max-age=0");
            item.Header.Add("Accept-Language", "zh-CN,zh;q=0.8");
            item.Header.Add("Accept-Encoding", "gzip,deflate,sdch");
            HttpResult hr = hp.GetHtml(item);
            string str = Regex.Replace(hr.Html, @"""", "").ToString();





1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2015-6-2 14:34:55 | 显示全部楼层
Host Connection Accept-Language 等很多都是有属性直接设置的,不能一下子全部添加的Header里面
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 07:43

© 2014-2021

快速回复 返回顶部 返回列表