苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 4393|回复: 6

[求助] 求教,极端情况下抓取图片和循环提交数据

[复制链接]
发表于 2013-9-24 19:42:04 | 显示全部楼层 |阅读模式
有一个网站,每个月固定日期固定时间可以能访问一个小时,而且到时候访问的人非常多,以至于服务器基本处在瘫痪状态,如果手动刷新的话刷几百次才能刷出一次完整的页面,而且刷出来才是第一步,还要登录和提交数据。所以人工操作费时费力还很难完成一次完整的操作。飞哥的httphelper在网站正常的情况下非常好用,但是在这种极端的情况下有点不知道怎么处理了。主要是怎么判断是否提交成功和不成功的时候怎么一直让程序循环提交知道成功。


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2013-9-25 13:00:22 | 显示全部楼层
{:soso_e113:}你写火车抢票软件啊,还是红米啊{:soso_e128:}
发表于 2013-9-25 14:08:06 | 显示全部楼层
这个你自己做判断吧,如果没有得到想要的数据那就是不成功,一直循环只到取到数据才停止,就是无限制的重试
 楼主| 发表于 2013-9-25 15:24:44 | 显示全部楼层
qiang8484 发表于 2013-9-25 13:00
你写火车抢票软件啊,还是红米啊

想写但是没那实力啊 做的一个别的网站的
 楼主| 发表于 2013-9-25 16:08:21 | 显示全部楼层
如果判断做好了,他一直在那儿循环提交的话是不是这个进程就卡在这儿了,怎么做才能一次几条多个数据,还不让他卡在那儿呢?
发表于 2013-9-25 16:50:10 | 显示全部楼层
你循环不能设置下次数吗?可以是10次或者是100次,肯定不能无限制的重试啊
 楼主| 发表于 2013-9-25 17:05:09 | 显示全部楼层
可以用异步或者多线程实现一次提交多个数据,还互不影响
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-23 18:16

© 2014-2021

快速回复 返回顶部 返回列表