http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 2624|回复: 2

[求助] 新手提问,关于数据读取

[复制链接]
发表于 2014-10-29 16:08:02 | 显示全部楼层 |阅读模式
我是新手,请问我使用POST登陆一个网站后返回信息是成功了,然后我在用get获取网站内页一个网页数据为什么说我验证失败,就是没有登陆,需要注意哪些地方。有没有适合新手的例子试验教程。谢谢


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-10-29 22:12:29 | 显示全部楼层
应该是cookie问题,可以简化一下试试
 楼主| 发表于 2014-10-30 11:06:59 | 显示全部楼层
本帖最后由 飞兔ss 于 2014-10-30 11:08 编辑
站长苏飞 发表于 2014-10-29 22:12
应该是cookie问题,可以简化一下试试

private void button1_Click(object sender, EventArgs e)
        {
            MessageBox.Show(OpenReadWithHttps("http://XXX.COM/login", "user=admin&pass=admin"));
            richTextBox1.Text = GetUrltoHtml("http://XXX.COM/main/");
        }
        ///</summary>
        ///<param name="URL">url地址</param>
        ///<param name="strPostdata">发送的数据</param>
        ///<returns></returns>
        public string OpenReadWithHttps(string URL, string strPostdata)
        {
            Encoding encoding = Encoding.Default;
            HttpWebRequest request = (HttpWebRequest)WebRequest.Create(URL);
            request.Method = "post";
            request.Accept = "application/json, text/javascript, */*; q=0.01";
            request.ContentType = "application/x-www-form-urlencoded; charset=UTF-8";
            CookieContainer objcok = new CookieContainer();
            objcok.Add(new Uri("http://XXX.COM/"), new Cookie("PHPSESSID", "5ca7627089cs43f12f6e925a4fa31eee"));
            request.CookieContainer = objcok;

            byte[] buffer = encoding.GetBytes(strPostdata);
            request.ContentLength = buffer.Length;

            request.GetRequestStream().Write(buffer, 0, buffer.Length);
            HttpWebResponse response = (HttpWebResponse)request.GetResponse();
            StreamReader reader = new StreamReader(response.GetResponseStream(), System.Text.Encoding.GetEncoding("utf-8"));
            return reader.ReadToEnd();
        }
        /// <summary>
        /// 传入URL返回网页的html代码带有证书的方法
        /// </summary>
        /// <param name="Url">URL</param>
        /// <returns></returns>
        public string GetUrltoHtml(string Url)
        {
            StringBuilder content = new StringBuilder();
            try
            {
                // 与指定URL创建HTTP请求
                HttpWebRequest request = (HttpWebRequest)WebRequest.Create(Url);
                request.UserAgent = "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR

2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; BOIE9;ZHCN)";
                request.Method = "GET";
                request.Accept = "application/x-ms-application, image/jpeg, application/xaml+xml, image/gif, image/pjpeg,

application/x-ms-xbap, */*";

                //如果方法验证网页来源就加上这一句如果不验证那就可以不写了
                request.Referer = "http://XXX.COM/main/";
                CookieContainer objcok = new CookieContainer();
                objcok.Add(new Uri("http://XXX.COM/"), new Cookie("PHPSESSID", "5ca7627089cs43f12f6e925a4fa31eee"));
                request.CookieContainer = objcok;
                //不保持连接
                request.KeepAlive = true;
                // 获取对应HTTP请求的响应
                HttpWebResponse response = (HttpWebResponse)request.GetResponse();
                // 获取响应流
                Stream responseStream = response.GetResponseStream();
                // 对接响应流(以"GBK"字符集)
                StreamReader sReader = new StreamReader(responseStream, Encoding.GetEncoding("utf-8"));
                // 开始读取数据
                Char[] sReaderBuffer = new Char[256];
                int count = sReader.Read(sReaderBuffer, 0, 256);
                while (count > 0)
                {
                    String tempStr = new String(sReaderBuffer, 0, count);
                    content.Append(tempStr);
                    count = sReader.Read(sReaderBuffer, 0, 256);
                }
                // 读取结束
                sReader.Close();
            }
            catch (Exception)
            {
                content = new StringBuilder("Runtime Error");
            }
            return content.ToString();
        }
不太懂,你看看我这样做是否正确,是哪个地方需要修改。对COOKIE不懂。不知道如何下手。
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-15 01:14

© 2014-2021

快速回复 返回顶部 返回列表