http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5600|回复: 9

[求助] HttpHelper的致命缺陷

[复制链接]
发表于 2015-4-12 21:56:06 | 显示全部楼层 |阅读模式
我浅显的用了一下HttpHelper,但我发现HttpHelper有一个致命的问题(也可能是用的不对):就是在发送请求的时候,用网络抓包工具Fiddler抓不到请求,各位同仁不知有没有遇到过这种情况。如果抓不到包的话,就很难进行调试和跟踪到底是请求哪里出问题了啊?


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
 楼主| 发表于 2015-4-13 07:21:22 | 显示全部楼层
如果不能用Fiddler抓包的话,就不能比对通过浏览器抓的包和通过HttpHelper抓得包,这样就不能检测出自己组装的数据有何不对。
发表于 2015-4-13 07:58:05 | 显示全部楼层
vs里调试就可以吧,fidder抓包更麻烦吧
发表于 2015-4-13 08:17:02 | 显示全部楼层
ProxyIp = "ieproxy",//代理服务器Ip     如果需要使用IE代理就直接设置为ieproxy

http://www.sufeinet.com/thread-8424-1-1.html
发表于 2015-4-13 08:20:58 | 显示全部楼层
milest 发表于 2015-4-13 07:58
vs里调试就可以吧,fidder抓包更麻烦吧

请问你在哪里可以用VS调试分析请求包?
发表于 2015-4-13 08:27:16 | 显示全部楼层
912288184 发表于 2015-4-13 08:20
请问你在哪里可以用VS调试分析请求包?

VS应该是没有的,它的意思应该是让你看参数,或者是返回的结果
发表于 2015-4-13 08:28:23 | 显示全部楼层
912288184 发表于 2015-4-13 08:20
请问你在哪里可以用VS调试分析请求包?

ProxyIp = "ieproxy"加上这个参数就能使用Finder2抓包了,原因很简单,Finder2抓的是IE的包,而不是监听80
 楼主| 发表于 2015-4-13 08:46:08 | 显示全部楼层
我用的是Fiddler4,我发现如果我不用HttpHelper库,用原生的.net库,是没有问题的,Fiddler是完全可以抓包的,但用了HttpHelper的库,就不行了,代码如下:
====================.net的原生库==================================
            string url = "http://news.baidu.com/";
            var webRequest = (HttpWebRequest)WebRequest.Create(url);

            webRequest.Method = "GET";
            webRequest.Timeout = 100000;
            webRequest.AllowAutoRedirect = true;

            var httpWebResponse = (HttpWebResponse)webRequest.GetResponse();


            string responseContent;
            using (var httpStreamReader = new StreamReader(httpWebResponse.GetResponseStream(),
                                                            Encoding.GetEncoding("utf-8")))
            {
                responseContent = httpStreamReader.ReadToEnd();
            }
            httpWebResponse.Close();
            webRequest.Abort();
====================HttpHelper的库=================================
            HttpHelper httpHelper = new HttpHelper();

            HttpItem httpItem = new HttpItem()
            {
                URL = "http://news.baidu.com/",
                Method = "get",
                Allowautoredirect = true
            };

            HttpResult httpResult = httpHelper.GetHtml(httpItem);
            string responseCookie = httpResult.Cookie;
            string responseHtml = httpResult.Html;
            HttpStatusCode statusCode = httpResult.StatusCode;
            string statusCodeDescription = httpResult.StatusDescription;
发表于 2015-4-13 10:04:41 | 显示全部楼层
shakalvchina 发表于 2015-4-13 08:46
我用的是Fiddler4,我发现如果我不用HttpHelper库,用原生的.net库,是没有问题的,Fiddler是完全可以抓包的 ...

ProxyIp = "ieproxy",//代理服务器Ip     如果需要使用IE代理就直接设置为ieproxy

http://www.sufeinet.com/thread-8424-1-1.html


我不是在四楼给你发上面的代码了吗,加上就行了。还有说明链接

说实话要不是有人回复,我看到你这标题都不愿意看。还致命缺陷。下谁呢
发表于 2015-4-14 15:22:01 来自移动端 | 显示全部楼层
先请教一下别人再发帖。标题整的太吓人了。典型标题党。
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 14:02

© 2014-2021

快速回复 返回顶部 返回列表