苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

楼主: kidsoft

[抓取] HttpWebResponse获取网页HTML

[复制链接]
 楼主| 发表于 2013-4-15 16:18:44 | 显示全部楼层
VS2012代码,见附件!

GetHtmlTest.rar

69.9 KB, 下载次数: 55, 下载积分: 金钱 -1



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2013-4-15 16:31:59 | 显示全部楼层
kidsoft 发表于 2013-4-15 16:18
VS2012代码,见附件!

取到的内容是什么你发上来我看一下,看看和我获取的是否一样
 楼主| 发表于 2013-4-15 16:37:31 | 显示全部楼层
站长苏飞 发表于 2013-4-15 16:31
取到的内容是什么你发上来我看一下,看看和我获取的是否一样

QQ截图20130415163652.png
发表于 2013-4-15 18:05:43 | 显示全部楼层
kidsoft 发表于 2013-4-15 16:37

下班了,确实有这个问题,明天来了帮你看看
发表于 2013-4-16 08:56:35 | 显示全部楼层
[code=csharp]  HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.soso.com/q?sc=web&bs=%C3%C0%B9%FA%B4%F3%C6%AC&ch=w.uf&num=10&w=%C3%C0%B9%FA%B4%F3%C6%AC",//URL这里都是测试     必需项
                Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
                //Encoding = Encoding.Default,
                Method = "get",//URL     可选项 默认为Get
            };
            //得到HTML代码
            HttpResult result = http.GetHtml(item);[/code]
这样可以取到,使用最新版的类,
 楼主| 发表于 2013-4-16 09:05:00 | 显示全部楼层
上面那个链接没有|符号[百度百科],所以测试结果正确。刚在网站下载了最新的HttpHelper,结果仍然一样。还是无法读取全部,当有|的情况下。
发表于 2013-4-16 09:06:51 | 显示全部楼层
kidsoft 发表于 2013-4-16 09:05
上面那个链接没有|符号[百度百科],所以测试结果正确。刚在网站下载了最新的HttpHelper,结果仍然一样。还是 ...

那你说一个不行的,我看看
 楼主| 发表于 2013-4-16 09:08:03 | 显示全部楼层
http://www.soso.com/q?pid=s.idx& ... 0%B9%FA%B5%E7%D3%B0
在winform里肯定获取不到全部。因为出现了|
发表于 2013-4-16 09:23:13 | 显示全部楼层
kidsoft 发表于 2013-4-16 09:08
http://www.soso.com/q?pid=s.idx&cid=s.idx.se&w=%C3%C0%B9%FA%B5%E7%D3%B0
在winform里肯定获取不到全部 ...

我靠还真是,我有时间再研究下,这个问题还真没碰到过,为什么出现|之后就没数据了呢?你要试试,我这边有结果了给你贴代码。呵呵,现在我也不清楚怎么解决啊
 楼主| 发表于 2013-4-16 09:25:05 | 显示全部楼层
我现在最奇怪的一件事情是:在你的网页上测试,居然结果是正确的,能获取到全部的内容。所以我就特别的奇怪。
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2025-1-31 17:59

© 2014-2021

快速回复 返回顶部 返回列表