苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 4635|回复: 6

[咨询站长] 关于请求遇到异步的问题

[复制链接]
发表于 2018-1-18 15:25:10 | 显示全部楼层 |阅读模式
本帖最后由 Anonymou 于 2018-1-18 15:32 编辑

遇到一个网站,就是我直接download一个论坛的版块列表时拿到的source是一个看起来是没有什么用处的东西回来。即使我模拟请求也还是无法获取到真正想要的source,后来用fiddler抓包发现我请求一次显示有三次请求,如图: TIM图片20180118152745.png
而我需要的source是在第三天链接的,第一第二条目测是没有什么用(是我看不出什么端倪还是怎么的,望指点)。
链接:http://www.zaixs.com/forum-65-1.html
希望飞哥指点指点,怎样才能够拿到完整的source。



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2018-1-19 08:01:29 | 显示全部楼层
很抱歉,由于您访问的URL有可能对网站造成安全威胁,您的访问被阻断。
 楼主| 发表于 2018-1-19 10:03:45 | 显示全部楼层
站长苏飞 发表于 2018-1-19 08:01
很抱歉,由于您访问的URL有可能对网站造成安全威胁,您的访问被阻断。

能治吗?怎么治?
发表于 2018-1-19 10:17:10 | 显示全部楼层
请求必要链接,获得返回的cookie,带着cookie请求就OK了。
发表于 2018-1-19 11:38:02 | 显示全部楼层
直接访问肯定是不行的,你不是抓到包了吗,根据抓包一步一步的请求就行了吧,浏览器也是这样的原因,请求获取Cookie,带上然后第二个请求,然后带上Cookie第一个开始,就这样
 楼主| 发表于 2018-1-19 11:52:15 | 显示全部楼层
站长苏飞 发表于 2018-1-19 11:38
直接访问肯定是不行的,你不是抓到包了吗,根据抓包一步一步的请求就行了吧,浏览器也是这样的原因,请求获 ...

已经好了,我缺少了了时间戳,所以中间曲折了点,但是就是不知道为什么隔一段时间跑的时候第一次拿不到,然后再立即重新跑一次就又正常了,可能是网站本身存在的机制还是什么,有点迷糊,但是也算过关了吧!
发表于 2018-1-19 13:52:32 | 显示全部楼层
加个重试应该就行了,这个要看你第一次是不是安抓到的包请求的,或许有什么参加没带,比如Refer
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-26 16:27

© 2014-2021

快速回复 返回顶部 返回列表