苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5185|回复: 4

[求助] 怎么使用httphelper抓取webbrowser加载之后的页面的源码?

[复制链接]
发表于 2014-1-8 11:18:06 | 显示全部楼层 |阅读模式
我现在有一个网站的数据要抓取,这个网站要登录,查询数据的时候要等到网站加载完毕后所有的数据才可以出来!我不知道怎么使用httphelper来实现,请各位高手说个思路呗!{:soso_e101:}


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
 楼主| 发表于 2014-1-8 11:20:02 | 显示全部楼层
还有,有没有使用httphelper抓取网页数据的事例,我是新手 看不懂太多的代码呀!
发表于 2014-1-8 12:02:13 | 显示全部楼层
这个没办法直接获取,如果是Ajax请求的需要单独去请求这个连接,Httphelper只能实现单次请求,
你说是是那个网站,这个要具体分析的。
例子你So赶集网的,我写的有例子
 楼主| 发表于 2014-1-8 12:50:57 | 显示全部楼层
站长苏飞 发表于 2014-1-8 12:02
这个没办法直接获取,如果是Ajax请求的需要单独去请求这个连接,Httphelper只能实现单次请求,
你说是是那 ...

如果要想获取包含ajax的页面源码,一般的思路是怎样的呢?
发表于 2014-1-8 13:12:09 | 显示全部楼层
抓包看看Ajax请求的地址,头信息以及Post内容,然后模拟,和模拟获取网页数据是一样的。可以使用Firbug看看
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-23 15:29

© 2014-2021

快速回复 返回顶部 返回列表