苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5348|回复: 4

[HttpHelper] cookie问题

[复制链接]
发表于 2018-1-30 16:03:57 | 显示全部楼层 |阅读模式
这是我通过分析要抓的页面: http://app1.sfda.gov.cn/datasear ... 7027083838706701567
这个网站查cookie,否则返回垃圾数据,但奇怪的是我用框架提供的GetCookieString()方法获取到的cookie似乎和开发助手获取的cookie不一样,我查过开发助手的源码,发现这一个网页获取了3遍cookie。但只要用开发助手获取过cookie,那么我的代码就能正常运行了,求高手指点一下到底是怎么回事。
另这个网站还封ip,除了减缓请求还有什么办法?


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2018-1-30 17:21:13 | 显示全部楼层
限制IP可以使用代理IP,这个框架也支持,只需要找代理IP就行了。
GetCookieString是对cookie进行格式化的,有些网站要求比较严格,所以需要格式化一下,里面有源码,你可以参考一下。就是把里面的Express,Path等去掉即可

发表于 2018-1-31 20:48:45 | 显示全部楼层
路过学习下,努力进步ing
 楼主| 发表于 2018-2-4 11:45:33 | 显示全部楼层
开发助手里DocumentCompleted触发了3次,生成了3次cookie,你封装的GetCookieString获取的是第一次的cookie
 楼主| 发表于 2018-2-4 11:49:01 | 显示全部楼层
我水平很差,有条件的话帮帮我调试看看
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-26 14:59

© 2014-2021

快速回复 返回顶部 返回列表