http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 3003|回复: 3

[反馈建议] 关于httphelper 4.0 小小的优化

[复制链接]
发表于 2015-4-1 11:12:16 | 显示全部楼层 |阅读模式

在 SetRequest时添加一句代码。碰到压缩之类的,.net会自动解压
     request.AutomaticDecompression = DecompressionMethods.GZip | DecompressionMethods.Deflate;
      以下代码可以优化下。不用判断GzIP之类的了  


[C#] 纯文本查看 复制代码
 /// <summary>
        /// 提取网页Byte
        /// </summary>
        /// <returns></returns>
        private byte[] GetByte()
        {
            byte[] ResponseByte = null;
            using (MemoryStream _stream = new MemoryStream())
            {
                //GZIIP处理
                if (response.ContentEncoding != null && response.ContentEncoding.Equals("gzip", StringComparison.InvariantCultureIgnoreCase))
                {
                    //开始读取流并设置编码方式
                    new GZipStream(response.GetResponseStream(), CompressionMode.Decompress).CopyTo(_stream, 10240);
                }
                else
                {
                    //开始读取流并设置编码方式
                    response.GetResponseStream().CopyTo(_stream, 10240);
                }
                //获取Byte
                ResponseByte = _stream.ToArray();
            }
            return ResponseByte;
        }


[C#] 纯文本查看 复制代码
      /// <summary>
        /// 提取网页Byte
        /// </summary>
        /// <returns></returns>
        private byte[] GetByte()
        {
            byte[] ResponseByte = null;
            using (MemoryStream _stream = new MemoryStream())
            { //开始读取流 
                    response.GetResponseStream().CopyTo(_stream, 10240);
  ResponseByte = _stream.ToArray();
            }
            return ResponseByte;
        }



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2015-4-1 12:56:20 | 显示全部楼层
不判断如果是压缩的怎么办
 楼主| 发表于 2015-4-1 15:10:28 | 显示全部楼层
request.AutomaticDecompression = DecompressionMethods.GZip | DecompressionMethods.Deflate;
这句自动处理的,是压缩的,.net也会自动处理反回的是解压后的流
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-22 14:32

© 2014-2021

快速回复 返回顶部 返回列表