苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 5822|回复: 6

[学生提问] 关于cookiecollection

[复制链接]
发表于 2017-4-22 13:04:02 来自移动端 | 显示全部楼层 |阅读模式
请教大神,我用cookiecollection来保存和发送cookie,但是抓包发现每次只能提交20个cookie,再多的话有些cookie就会被覆盖,请问如何可以解决?


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2017-4-24 09:23:04 | 显示全部楼层
这个问题没碰到了,安说是没有限制的,除非服务端限制了,如果服务端限制这个是没办法解决的
 楼主| 发表于 2017-4-24 21:35:40 | 显示全部楼层
using System;
using System.Collections.Generic;
using System.IO;
using System.Linq;
using System.Net;
using System.Net.Mime;
using System.Text;
using CsharpHttpHelper;
using CsharpHttpHelper.Enum;

namespace httphelperTest
{
    class Program
    {
        static void Main(string[] args)
        {
            CookieCollection cookieCollection = new CookieCollection();
            for (int i = 0; i < 30; i++)
            {
                Cookie cookie = new Cookie(i.ToString(), i.ToString(), "/", ".sufeinet.com");
                cookieCollection.Add(cookie);
            }
            HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.sufeinet.com",//URL     必需项
                Method = "GET",//URL     可选项 默认为Get
                Timeout = 100000,//连接超时时间     可选项默认为100000
                ReadWriteTimeout = 30000,//写入Post数据超时时间     可选项默认为30000
                IsToLower = false,//得到的HTML代码是否转成小写     可选项默认转小写
                ResultCookieType = ResultCookieType.CookieCollection,
                CookieCollection = cookieCollection,
                UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:18.0) Gecko/20100101 Firefox/18.0",//用户的浏览器类型,版本,操作系统     可选项有默认值
                Accept = "text/html, application/xhtml+xml, */*",//    可选项有默认值
                ContentType = "text/html",//返回类型    可选项有默认值
                Referer = "",//来源URL     可选项
                Allowautoredirect = false,//是否根据301跳转     可选项
                AutoRedirectCookie = false,//是否自动处理Cookie     可选项
                                           //CerPath = "d:\123.cer",//证书绝对路径     可选项不需要证书时可以不写这个参数
                                           //Connectionlimit = 1024,//最大连接数     可选项 默认为1024
                Postdata = "",//Post数据     可选项GET时不需要写
                              //ProxyIp = "192.168.1.105:2020",//代理服务器ID     可选项 不需要代理 时可以不设置这三个参数
                              //ProxyPwd = "123456",//代理服务器密码     可选项
                              //ProxyUserName = "administrator",//代理服务器账户名     可选项
                ResultType = ResultType.String,//返回数据类型,是Byte还是String
                ProxyIp = "192.168.1.102:8888"
            };
            HttpResult result = http.GetHtml(item);
            string html = result.Html;
            string cookieStr = result.Cookie;

            

    }
}
}
 楼主| 发表于 2017-4-24 21:37:23 | 显示全部楼层
就是这样,不知道为啥,请大神指教,谢谢~
更多图片 小图 大图
组图打开中,请稍候......
 楼主| 发表于 2017-4-24 22:10:43 | 显示全部楼层
找到原因了。。。
应该也算是httphelper考虑不周的一个地方吧
需要修改这个属性
https://msdn.microsoft.com/zh-cn ... r.perdomaincapacity(v=vs.110).aspx
发表于 2017-5-24 10:36:36 | 显示全部楼层
欧阳天佐 发表于 2017-4-24 22:10
找到原因了。。。
应该也算是httphelper考虑不周的一个地方吧
需要修改这个属性

这个具体怎么改?我看默认好像是300把。CookieCollection好像没看到这个参数在哪里
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-27 17:55

© 2014-2021

快速回复 返回顶部 返回列表