http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 6233|回复: 2

[求助] HttpHelper(C#)关于使用代理,抓取天猫的内容的问题

[复制链接]
发表于 2015-10-27 18:02:41 | 显示全部楼层 |阅读模式
我现在使用httphelper爬取https://www.tmall.hk
使用代理,如果在网页访问,是可以访问获取内容,但是程序实现,会出现无法链接服务器或者403的异常,具体的代码如下:
[C#] 纯文本查看 复制代码
HttpHelper httpHelper=new HttpHelper();
            HttpItem item=new HttpItem();
            item.URL = "https://www.tmall.hk";
            item.WebProxy = new WebProxy("120.198.231.45", 80);
            item.ProxyIp = "120.198.231.45";
            item.Method = "get";
            item.Host = "www.tmall.hk";
            item.ContentType = "text/html";
            item.Header.Add("accept-encoding", "gzip, deflate, sdch");
            item.Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8";
            item.ProtocolVersion = HttpVersion.Version11;
            item.Header.Add("accept-language", "zh-CN,zh;q=0.8");
            
            item.UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.152 Safari/537.36";
            HttpResult result=httpHelper.GetHtml(item);

如果不用代理配置的话,是可以直接获取内容的,但是一设置了代理就出现无法获取的情况,请各位大牛帮忙指导一下。
或者是否有类似的例子可以参考一下,请指导一下


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2015-10-29 00:38:36 | 显示全部楼层
天猫有反作弊机制。
发表于 2015-12-4 14:16:01 | 显示全部楼层
楼主,你搞定了吗?怎么搞定的?
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 06:34

© 2014-2021

快速回复 返回顶部 返回列表