苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 6452|回复: 3

[HttpHelper] 网页数据请求返回不完整问题

[复制链接]
发表于 2019-8-22 17:40:03 | 显示全部楼层 |阅读模式
这两天我测试,获取京东搜索结果的数据,但始终只能获取25条,但前端搜索页显示的是60条
后来才发现,原来京东搜索完后,数据并不会一次加载完成,而是当将滚动条向下滚动的过程中加载的,
针对这种情况 ,httphelper万能框架要如何破,望各们大神指点,小弟在此谢过啦


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2019-8-23 08:16:27 | 显示全部楼层
你知道滚动分页吧,他是滚动分页的,你直接抓到包提交请求即可
发表于 2019-8-23 09:46:25 | 显示全部楼层
站长说了,抓包,(手动模拟构造请求发送即可)
发表于 2019-8-24 22:56:58 | 显示全部楼层
前两天还看着,有个参数,第一页前30个商品  page=1 id =1   剩下30个  page=2  id=31   ,第二页是  page=3 id =61   剩下30是  page=4 id=121  大概印象好像就是这  自己找找
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-25 16:06

© 2014-2021

快速回复 返回顶部 返回列表