Node批量爬取头条视频并保存方法
简介
一般批量爬取视频或者图片的套路是，使用爬虫获得文件链接集合，然后通过writeFile等方法逐个保存文件。然而，头条的视频，在需要爬取的html文件（服务端渲染输出）中，无法捕捉视频链接。视频链接是页面在客户端渲染时，通过某些js文件内的算法或者解密方法，根据视频的已知key或者hash值，动态计算出来并添加到video标签的。这也是网站的一种反爬措施。
我们在浏览这些页面时，通过审核元素，可以看到计算后的文件地址。然而在批量下载时，逐个手动的获取视频链接显然不可取。开心的是，puppeteer提供了模拟访问Chrome的功能，使我们可以爬取经过浏览器渲染出来的最终页面。
项目启动
命令
npmi npmstart
Notice:安装puppeteer的过程稍慢，耐心等待。
配置文件
//配置相关
module.exports={
originPath:'https://www.ixigua.com',//页面请求地址
savePath:'D:/videoZZ'//存放路径
}
技术点
puppeteer
官方API
puppeteer提供一个高级API来控制Chrome或者Chromium。
puppeteer主要作用：
利用网页生成PDF、图片
爬取SPA应用，并生成预渲染内容（即“SSR”服务端渲染）
可以从网站抓取内容
自动化表单提交、UI测试、键盘输入等
使用到的API：
puppeteer.launch()启动浏览器实例
browser.newPage()创建一个新页面
page.goto()进入指定网页
page.screenshot()截图
page.waitFor()页面等待，可以是时间、某个元素、某个函数
page.$eval()获取一个指定元素，相当于document.querySelector
page.$$eval()获取某类元素，相当于document.querySelectorAll
page.$('#id.className')获取文档中的某个元素，操作类似jQuery
代码示例
constpuppeteer=require('puppeteer');
(async()=>{
constbrowser=awaitpuppeteer.launch();
constpage=awaitbrowser.newPage();
awaitpage.goto('https://example.com');
awaitpage.screenshot({path:'example.png'});
awaitbrowser.close();
})();
视频文件下载方法
下载视频主方法
constdownloadVideo=asyncvideo=>{
//判断视频文件是否已经下载
if(!fs.existsSync(`${config.savePath}/${video.title}.mp4`)){
awaitgetVideoData(video.src,'binary').then(fileData=>{
console.log('下载视频中：',video.title)
savefileToPath(video.title,fileData).then(res=>
console.log(`${res}:${video.title}`)
)
})
}else{
console.log(`视频文件已存在：${video.title}`)
}
}
获取视频数据
getVideoData(url,encoding){
returnnewPromise((resolve,reject)=>{
letreq=http.get(url,function(res){
letresult=''
encoding&&res.setEncoding(encoding)
res.on('data',function(d){
result+=d
})
res.on('end',function(){
resolve(result)
})
res.on('error',function(e){
reject(e)
})
})
req.end()
})
}
将视频数据保存到本地
savefileToPath(fileName,fileData){
letfileFullName=`${config.savePath}/${fileName}.mp4`
returnnewPromise((resolve,reject)=>{
fs.writeFile(fileFullName,fileData,'binary',function(err){
if(err){
console.log('savefileToPatherror:',err)
}
resolve('已下载')
})
})
}
目标网站：西瓜视频
项目功能：下载头条号【维辰财经】下的最新20个视频
项目地址：Github地址