苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 25026|回复: 21

[其他] httphelper登录www.harcw.cn类求助

[复制链接]
发表于 2013-5-15 22:14:34 | 显示全部楼层 |阅读模式
本帖最后由 秋日的枫叶 于 2013-5-16 08:41 编辑

各位达人:

        我是自学的新手,遇到一个问题,捣鼓了几天都不行,最终只能来请教各位

目的:
        登陆 www.harcw.cn 然后获取他的cookie,在登陆会员中心http://www.harcw.cn/area_pers/user.asp


我第一步就失败了,我尝试了用get方法,一直不行,用post也不行

代码如下:
[code=csharp]      private void button1_Click(object sender, EventArgs e)
        {
            HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.harcw.cn/login.asp",//URL这里都是测试URl   必需项
                //Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
                Encoding = Encoding.Default ,
                Method = "post",//URL     可选项 默认为Get
                Postdata = "usertype=personal&username=maple&password=maple1234"
            };
            //得到HTML代码
            HttpResult result = http.GetHtml(item);
            txt_html.Text = result.Html;
        }
    }[/code]

----------------
问题2:

       理论上是不是所有get可以采集的页面,post也可以采集或者反过来说也是成立的?




1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2013-5-15 22:22:34 | 显示全部楼层
[code=csharp]  HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.harcw.cn/login.asp",//URL这里都是测试URl   必需项
                //Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
                Encoding = Encoding.Default,
                Method = "post",//URL     可选项 默认为Get
                ContentType="application/x-www-form-urlencoded",
                Postdata = "usertype=personal&username=maple&password=maple1234"
            };
      
            //得到HTML代码
            HttpResult result = http.GetHtml(item);
             http = new HttpHelper();
             item = new HttpItem()
            {
                URL = " http://www.harcw.cn/area_pers/user.asp",//URL这里都是测试URl   必需项
                //Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
                Encoding = Encoding.Default,
                Method = "get",//URL     可选项 默认为Get
                Cookie=result.Cookie               
            };
      
            //得到HTML代码
             result = http.GetHtml(item);[/code]
这样写就可以登录了
不是所有的Post都可以与Get相互转化,这个要看服务端有没有限制,具体的看文章吧
http://www.sufeinet.com/forum.php?mod=viewthread&tid=2630

 楼主| 发表于 2013-5-15 22:26:40 | 显示全部楼层
苏飞好快的速度
确实折腾我几天了,我在仔细比较下苏飞的代码
学习中,谢谢
发表于 2013-5-15 22:28:00 | 显示全部楼层
秋日的枫叶 发表于 2013-5-15 22:26
苏飞好快的速度
确实折腾我几天了,我在仔细比较下苏飞的代码
学习中,谢谢

ContentType="application/x-www-form-urlencoded",
主 要看这里
我帮你修改了个标题有利于Seo

 楼主| 发表于 2013-5-15 23:04:35 | 显示全部楼层
我看到了
苏老师
实在愚昧
我侧似了下还是有问题

没有返回登录成功的内容,而是错误提示:

必须先将 ContentLength 字节写入请求流,然后再调用 [Begin]GetResponse。

我是测试的post,用的数据如下:
  1. HttpHelper http = new HttpHelper();
  2.             HttpItem item = new HttpItem()
  3.             {
  4.                 URL = "http://www.harcw.cn/login.asp",//URL这里都是测试URl   必需项
  5.                 //Encoding = null,//编码格式(utf-8,gb2312,gbk)     可选项 默认类会自动识别
  6.                 Encoding = Encoding.Default,
  7.                 Method = "post",//URL     可选项 默认为Get
  8.                 ContentType = "application/x-www-form-urlencoded",
  9.                 Postdata = "usertype=personal&username=maple&password=maple1234"
  10.             };

  11.             //得到HTML代码
  12.             HttpResult result = http.GetHtml(item);
  13.             txt_html.Text = result.Html;
复制代码
-----------------------
另外,您的第二个get演示的方法
URL哪里为何要写html代码,我不理解了,URL不是写一个URL就可以了吗?
按照您目前写的,调试也报错,说URL不符合方案。

具体就是这里

URL = "  <a href=\"http://www.harcw.cn/area_pers/user.asp\" target=\"_blank\">http://www.harcw.cn/area_pers/user.asp</a>",//URL这里都是测试URl   必需项
 楼主| 发表于 2013-5-15 23:15:31 | 显示全部楼层
站长苏飞 发表于 2013-5-15 22:28
ContentType="application/x-www-form-urlencoded",
主 要看这里
我帮你修改了个标题有利于Seo

您修改的地方我是明白了,通过阅读其他帖子,我理解了您为何修改这里

我也截图给其他朋友看下,便于大家一起进步

大家注意红色标明的地方,明确提交类型。

QQ截图20130515231112.png

大家可以对照这2个帖子看: (给苏老师来个站内有效链接,既然你喜欢SEO,我也助理一臂之力)

1、为何content-type要做设置

2、关于content-type的大全
 楼主| 发表于 2013-5-16 02:08:24 | 显示全部楼层
实在没有办法了。
我休息了

明天还希望苏飞老师,能帮忙看下,我运行后

txtbox1.text中总是 显示 “必须先将 ContentLength 字节写入请求流,然后再调用 [Begin]GetResponse。”

另外,我找了网上对于此错误的说法
http://www.myexception.cn/asp-dotnet/1013551.html

给您参考
发表于 2013-5-16 08:02:45 | 显示全部楼层
秋日的枫叶 发表于 2013-5-15 23:15
您修改的地方我是明白了,通过阅读其他帖子,我理解了您为何修改这里

我也截图给其他朋友看下,便于大 ...

这边执行没有问题,在你那就有问题,你别加到你项目中单独使用我的看看给你代码
WindowsFormsApplication2.zip (28.24 KB, 下载次数: 256)
发表于 2013-5-16 08:19:55 | 显示全部楼层
站长苏飞 发表于 2013-5-15 22:28
ContentType="application/x-www-form-urlencoded",
主 要看这里
我帮你修改了个标题有利于Seo

问个问题啊
这个post的 我怎么知道他传递的 参数什么
就是postdata
怎么查看到的
发表于 2013-5-16 08:24:30 | 显示全部楼层
站长苏飞 发表于 2013-5-15 22:28
ContentType="application/x-www-form-urlencoded",
主 要看这里
我帮你修改了个标题有利于Seo

问个问题啊
这个post的 我怎么知道他传递的 参数什么
就是postdata
怎么查看到的
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-27 05:26

© 2014-2021

快速回复 返回顶部 返回列表