http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 2755|回复: 4

[其他] 此种数据该如何存储以方便读取呢?

[复制链接]
发表于 2014-3-3 15:32:29 | 显示全部楼层 |阅读模式
本帖最后由 marcofly 于 2014-3-3 15:34 编辑

1.jpg
需求:分析蜘蛛日志,然后按照上图那样显示出来。
对于以上的数据,应该如何存储,以方便显示呢?
我目前是这样做的:
[C#] 纯文本查看 复制代码
private Dictionary<string, Dictionary<string, int>> pageData = new Dictionary<string, Dictionary<string, int>>();
//往pageData中添加数据
Dictionary<string, int> dict = new Dictionary<string, int>();//其中:baidu为蜘蛛的名字
//888为蜘蛛抓取量(参照上图)
dict.Add("baidu", 888);
pageData.Add("/test.html", dict);

不知道还没有更合适的数据结构方便存储呢?




1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-3-3 15:34:14 | 显示全部楼层
使用Moogodb或者是redis存储,或者直接字符串。
 楼主| 发表于 2014-3-3 15:36:35 | 显示全部楼层
站长苏飞 发表于 2014-3-3 15:34
使用Moogodb或者是redis存储,或者直接字符串。

飞哥,回复神速啊!
不知道字符串存储该怎么个存储法呢?能提示下吗?我现在是直接使用字典存储的
发表于 2014-3-3 16:12:56 | 显示全部楼层
marcofly 发表于 2014-3-3 15:36
飞哥,回复神速啊!
不知道字符串存储该怎么个存储法呢?能提示下吗?我现在是直接使用字典存储的

字典也行,其实就是Key value的方法就够了。
redis是读取快一些,存储的多一些。
 楼主| 发表于 2014-3-3 16:35:11 | 显示全部楼层
站长苏飞 发表于 2014-3-3 16:12
字典也行,其实就是Key value的方法就够了。
redis是读取快一些,存储的多一些。

恩好的,redis后面再去了解下
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-11-24 01:47

© 2014-2021

快速回复 返回顶部 返回列表