苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 4592|回复: 5

[咨询站长] 目测是使用HTTP AUTH的无法获取页面源码

[复制链接]
发表于 2017-12-25 15:37:25 | 显示全部楼层 |阅读模式
采集一个网站的视频,遇到了问题就是无法直接下载获取起始链接页面下的所有视频链接、标题,我抓包得到的链接显示的确就是其实连接页面的视频链接,但是我使用这个抓包的链接下载然后是不能获取到数据,模拟请求也不行,求解!!!
起始链接:https://www.itouchtv.cn/
抓包得到的链接:https://api.itouchtv.cn:8090/new ... =10&channelId=0

但是网上看说是使用了HTTP AUTH,要是这样怎么解才能获取到数据?



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2017-12-25 16:52:16 | 显示全部楼层
 楼主| 发表于 2017-12-25 17:24:26 | 显示全部楼层
站长苏飞 发表于 2017-12-25 16:52
http://video2-cloud.itouchtv.cn/video/20171117/936d62fd3e3480e4db90651f899163381510908334__hd.mp4

你怎么获取到的?
 楼主| 发表于 2017-12-25 17:40:33 | 显示全部楼层
站长苏飞 发表于 2017-12-25 16:52
http://video2-cloud.itouchtv.cn/video/20171117/936d62fd3e3480e4db90651f899163381510908334__hd.mp4

我是想获取起始链接的所有文章、视频链接的,我抓包得到的链接目测是全部包含了我想要的所有连接的ID的,但是我无法download那个包链接数据回来,能稍微讲详细点吗?
发表于 2017-12-26 08:17:33 | 显示全部楼层
我发这个连接是告诉你,你获取的是不对的,正常应该是我发的,直接在页面上就有,好好找一下。
发表于 2017-12-26 08:19:05 | 显示全部楼层
https://www.itouchtv.cn/ 这个页面是没有视频链接的,只有视频所在页面链接。要先获取页面列表,然后从页面中再找视频链接
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-12-26 16:02

© 2014-2021

快速回复 返回顶部 返回列表