http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 7880|回复: 10

[反馈建议] 这两个网站不能自动识别编码,麻烦坛主看看能修复不

[复制链接]
发表于 2014-11-23 17:16:21 | 显示全部楼层 |阅读模式


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-11-23 17:56:08 | 显示全部楼层
这是因为网页误导了Httphelper,Httphelper是根据页面返回的Mate值首页进行解码的,但是这两个页面上写的是Utf-8,实际是gb2312

因为Httphelper是一个单一的类,暂时没有办法增加太复杂的解码逻辑,先手动指定吧。
发表于 2014-11-23 23:35:37 | 显示全部楼层
是不是变相广告?(善意质疑……)
如不是,解决很简单,直接根据返回头来处理,而不用从页面中获取。
我目前处理的流程就是,首先判断返回头中有无编码格式,有就取它,没有,再尝试从网页中取。
假如这两步都不准确,那就只能手工了(当然,网上有根据字节流解码的文章,整理后的类约90KB,估计一般人不想用。如你想用,搜索一下就是。)。
 楼主| 发表于 2014-11-24 09:11:49 | 显示全部楼层
站长苏飞 发表于 2014-11-23 17:56
这是因为网页误导了Httphelper,Httphelper是根据页面返回的Mate值首页进行解码的,但是这两个页面上写的是 ...

晕死呀楼主,我要采集的是各种网页,我不能固定编码呀?
发表于 2014-11-24 11:33:24 | 显示全部楼层
yq5858588 发表于 2014-11-24 09:11
晕死呀楼主,我要采集的是各种网页,我不能固定编码呀?

没有办法指定就自己写一套吧,我做不了,可以不用我的类,不用那么激动。
 楼主| 发表于 2014-11-24 12:24:58 | 显示全部楼层
站长苏飞 发表于 2014-11-24 11:33
没有办法指定就自己写一套吧,我做不了,可以不用我的类,不用那么激动。

发表于 2014-11-24 13:42:12 | 显示全部楼层
我已经指了一条路,LZ无视。
站长的类免费,爱用不用。
现在的年青人太浮躁,请教个问题都居高临下!!
 楼主| 发表于 2014-11-24 13:58:46 | 显示全部楼层
cload 发表于 2014-11-24 13:42
我已经指了一条路,LZ无视。
站长的类免费,爱用不用。
现在的年青人太浮躁,请教个问题都居高临下!!

你说的那个方法我试过了,有的网页会返回iso88591的编码,但是真正的编码还是utf或者是gbk,所以你那个方法出来后也会是乱码,不知道网页正真的编码是啥
发表于 2014-11-24 15:56:35 | 显示全部楼层
yq5858588 发表于 2014-11-24 13:58
你说的那个方法我试过了,有的网页会返回iso88591的编码,但是真正的编码还是utf或者是gbk,所以你那个方 ...

不是还有个根据字节流判断编码的么???
看过帖子回复一下是个好习惯
 楼主| 发表于 2014-11-24 15:58:27 | 显示全部楼层
cload 发表于 2014-11-24 15:56
不是还有个根据字节流判断编码的么???
看过帖子回复一下是个好习惯

具体怎么做教教俺!!!!
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-15 01:38

© 2014-2021

快速回复 返回顶部 返回列表