http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5848|回复: 2

[反馈建议] 使用HttpHelper时候的几个问题

[复制链接]
发表于 2016-3-14 13:14:56 | 显示全部楼层 |阅读模式
1. 基础连接已经关闭: 服务器关闭了本应保持活动状态的连接。   (看到不少人问这个,但是具体原因不知道为何,我是批量注册,同样的代码,有时候会有时候不会,反正看不懂)

2. 建议能有个调试输入,就像python的httpHandler = urllib2.HTTPHandler(debuglevel=1)   开启后,把http协议的头和尾都输出,还有response的也全部输入,这样在使用的时候调试十分方便. 强烈建议有此功能

3. 在使用了代理的时候,把默认加到头里的x-forward-for字段去掉

4. 建议可以自定义加上头部一些非标准的字段

HttpHelper集成的还是相当可以的,站长的功力也很好,是我等学习的楷模,希望越做越好


BTW

最近一个卡包的需求,不知道站长有没有写过类似的,求DEMO.
就是几百个线程同时访问一个URL,让他同时干一件事,怎么样能达到最大的效果?

本帖被以下淘专辑推荐:



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2016-3-14 13:38:01 | 显示全部楼层
第2个问题
这个想法不错,要吧加上,多谢

第3个问题
这个还是自行处理吧,毕竟我还是喜欢原生的,干涉的事情还是大家自行解决比较好

第四个问题
增加头部信息很方便
http.header.add("头信息名","内容");当然 这个在框架里有,

Htttphelper需要逐步完善。感谢支持
 楼主| 发表于 2016-3-14 15:22:45 | 显示全部楼层
站长苏飞 发表于 2016-3-14 13:38
第2个问题
这个想法不错,要吧加上,多谢

感谢回答

卡包有写过吗?
我现在是先让所有连接都先连过对方80,然后一个开关控制所有的连接都开始send,但是效果不佳,有啥好办法吗?
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 03:00

© 2014-2021

快速回复 返回顶部 返回列表