http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 7401|回复: 7

[其他] 怎么实现无需规则匹配网页的标题和正文?

[复制链接]
发表于 2014-6-10 15:24:13 | 显示全部楼层 |阅读模式
50金钱
像火车头采集这样,仅输入一个内容页的网址,也不需要写规则,就可以获取到这个页面的标题和正文内容。请问这是怎么实现的?
现在在做一个采集器,我是以页面唯一的某个标签的开始和结束来匹配的,但有个缺点,就是只要对方网站的标签名字更新了,我也要跟着更新,很麻烦,请问有什么方法解决?像火车头这种无需规则就可以匹配到是怎么实现的?谢谢



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-6-10 15:32:09 | 显示全部楼层
他们的里面也是有好多规则的,不过一般标题和正文都有注解,或者是安一定规则来的,你写几套就行了,没有多少种的,大致都相同
回复

使用道具 举报

 楼主| 发表于 2014-6-10 16:41:23 | 显示全部楼层
站长苏飞 发表于 2014-6-10 15:32
他们的里面也是有好多规则的,不过一般标题和正文都有注解,或者是安一定规则来的,你写几套就行了,没有 ...

有例子吗?貌似有点难判断
回复

使用道具 举报

发表于 2014-6-10 16:45:32 | 显示全部楼层
正规的标题都是<h1>
回复

使用道具 举报

 楼主| 发表于 2014-6-10 17:01:44 | 显示全部楼层

不一定的,好多不一样的,标题还容易些 ,内容的话 我看他们好像是字数多就可以匹配,字数少就匹配不到
回复

使用道具 举报

发表于 2014-6-10 17:07:19 | 显示全部楼层
sandy1231 发表于 2014-6-10 17:01
不一定的,好多不一样的,标题还容易些 ,内容的话 我看他们好像是字数多就可以匹配,字数少就匹配不到

规律没有多少,我跟你说个最简单的办法,你分析10网站之后应该就能总结出来了,看着都不一样,其实都差不多的。光在这里想是没用的,要动手。做一下才能体会到。
回复

使用道具 举报

 楼主| 发表于 2014-6-10 17:19:00 | 显示全部楼层
站长苏飞 发表于 2014-6-10 17:07
规律没有多少,我跟你说个最简单的办法,你分析10网站之后应该就能总结出来了,看着都不一样,其实都差不 ...

谢谢指点 已经在做了,解决了再发出来
回复

使用道具 举报

发表于 2014-6-10 17:32:34 | 显示全部楼层
sandy1231 发表于 2014-6-10 17:19
谢谢指点 已经在做了,解决了再发出来

恩好的,一边做一边想办法,有问题再讨论,呵呵
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-24 10:30

© 2014-2021

快速回复 返回顶部 返回列表