http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 15991|回复: 4

[求助] 采集微信搜狗老是提示:用户您好,您的访问过于频繁,为确认本次访问为正常用户行...

[复制链接]
发表于 2016-4-20 16:24:25 | 显示全部楼层 |阅读模式
在IE里访问正常。。这个是什么原因呢?我设置了采集一条后暂停几秒钟

[C#] 纯文本查看 复制代码
HttpHelper http = new HttpHelper();
        HttpItem item = new HttpItem()
        {
            URL = "http://weixin.sogou.com",//URL这里都是测试     必需项
            Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
            //Encoding = Encoding.Default,
            Method = "get",//URL     可选项 默认为Get
        };
        //得到HTML代码
        HttpResult result = http.GetHtml(item);
        item = new HttpItem()
        {
            URL = "http://weixin.sogou.com/weixin?type=1&query=caipiaobao_cp365&ie=utf8&_sug_=y&_sug_type_=",//URL这里都是测试URl   必需项
            Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
            //Encoding = Encoding.Default,
            Allowautoredirect=true,
            UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:45.0) Gecko/20100101 Firefox/45.0",
            Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
            Method = "get",//URL     可选项 默认为Get
            Cookie = result.Cookie,
        };
        //得到新的HTML代码
        result = http.GetHtml(item);




1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2016-4-20 16:58:22 | 显示全部楼层
详细看一下包,搜索引擎一般会验证鼠标位置,时间贞等,意思就是Useragent不能一直不变,
发表于 2016-4-21 09:11:43 | 显示全部楼层
站长苏飞 发表于 2016-4-20 16:58
详细看一下包,搜索引擎一般会验证鼠标位置,时间贞等,意思就是Useragent不能一直不变,

鼠标什么的还会影响useragent?
发表于 2016-4-21 09:26:47 | 显示全部楼层
helloword 发表于 2016-4-21 09:11
鼠标什么的还会影响useragent?

你使用IE搜索一下看看传的参数就明白了,我说Useragent,并不是特指的这个参数,而是说的用户端带过去的信息
 楼主| 发表于 2016-4-21 11:28:24 | 显示全部楼层
只能暂时用火狐抓包,手动填COOKIE。临时方案。
唉,不知道他的具体规则,采集频繁了还是要输入验证码。。。:@
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 07:06

© 2014-2021

快速回复 返回顶部 返回列表