http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 4090|回复: 1

[HttpHelper] UserAgent的问题

[复制链接]
发表于 2017-5-11 09:39:21 | 显示全部楼层 |阅读模式
访问了一个网站,是get方式。

1.如果用默认的UserAgent值,万能框架是可以访问的。

2.如果用:Mozilla/5.0 (Windows NT 6.1; WOW64; rv:53.0) Gecko/20100101 Firefox/53.0
就返回fobideen
(但是火狐浏览器正常)

3.如果用:用IE浏览器来模拟Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36 OPR/26.0.1656.60
,是可以访问的。
但是把上面参数加到用万能框架里,把UserAgent设置成这个,同样是 禁止访问。

想请问一下各位,这个网站采用的这种叫什么技术?是怎么实现的?还有针对第三种情况,飞哥怎么看?



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2017-5-11 09:55:53 | 显示全部楼层
这种情况你抓一下两次发出的包, 对比一下应该就明白了,是Useragent影响的,但我预感还会有其他因素。
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-18 04:16

© 2014-2021

快速回复 返回顶部 返回列表