Node.js(十三)——Promise重構爬蟲代碼

在重構代碼之前，先要了解下什么是https？

https協議：基于ssl/tls的http協議，所有的數據都是在

ssl/tls協議的封裝之上傳輸的，也就是說https協議是在http協議基礎上

添加了ssl/tls握手以及數據加密傳輸，因此這就是兩者之間最大的區別。

https模塊專門處理加密訪問的，區別在于搭建https服務器的時候需要有ssl證書。

模擬搭建https服務器

var https = require('https')
var fs = require('fs')//文件系統模塊

var options = {
	//同步的讀出ssl證書__虛擬
	key:fs.readFileSync('ssh_key.pem')
	cert:fs.readFileSync('ssh_cert.pem')
}
//通過以上讀取證書之后就可以運行https服務器

https.createServer(options, function(req,res){
	res.wirteHead(200)
	res.end('Hello Https')
}).listen(8090)

重構爬蟲代碼：

var http = require('http')
var cheerio = require('cheerio')
//在新版本中Promise已經內置
var promise = require('bluebird')
var baseUrl = 'http://www.imooc.com/learn/'

var videoIds = [348,259,197,134,751]

function filterChapters(html){
	var $ = cheerio.load(html)
	var chapters = $('.mod-chapters')
	//標題
	var title = $('#main .path span').text()
	//學習的人數
	//var number = parseInt($($('static-item')[0]).text().trim(),10)
	//var number = $($('.static-item span')[1]).text();
	//var number = parseInt($('.meta-value js-learn-num').text().trim(),10)
	var number = $('.meta-value js-learn-num').html()
	var courseData = {
		title:title,
		number:number,
		videos:[]
	}
	//遍歷的里面拿到數據
	chapters.each(function(item){
		var chapter = $(this);
		
		//章節標題
		var chapterTitle = chapter.find('strong').text()
		console.log(chapterTitle)
		var videos = chapter.find('.video').children('li')
		var chapterData = {
			chapterTitle:chapterTitle,
			videos:[]
		}
		
		//遍歷videos
		videos.each(function(item){
			var video = $(this).find('.J-media-item')
			var videoTitle = video.text()
			var id = video.attr('href').split('video/')[1]
			
			chapterData.videos.push({
				title:videoTitle,
				id:id
			})
		})
		
		
		courseData.videos.push(chapterData)
	})
	
	return courseData
}

function printCourseInfo(coursesData){
	
	coursesData.forEach(function(courseData){
		console.log(courseData.number + ' 人學過 '+courseData.title+'\n')
	})
	
	//數組中的遍歷
	coursesData.forEach(function(courseData){
		console.log('### '+courseData.title+'\n')
		courseData.videos.forEach(function(item){
		
		var chapterTitle = item.chapterTitle
		item.videos.forEach(function(video){
			console.log('【'+video.id+'】'+video.title);
		})
	})
	})
	
}



function getPageAsync(url){
	return new Promise(function(resolve,reject){
		console.log('正在抓取' + url  )
		
		http.get(url, function(res){
		var html = ''
		
		res.on('data',function(data){
			html += data
		})
		
		res.on('end',function(){
			//在請求完成的時候,通過resolve傳遞下去
			resolve(html)
		}).on('error',function(e){
			//如果出錯了
			reject(e)
			console.log('獲取頁面出錯')
		})
	})
		
	})
}

var fetchCourseArray = []

videoIds.forEach(function(id){
	//遍歷的結果傳遞過去
	 fetchCourseArray.push(getPageAsync(baseUrl + id))
})


//需要做并發控制,全部去爬
Promise
	.all(fetchCourseArray)
	.then(function(pages){
	//多頁面處理
	var coursesData = []
	//對page進行加工
	pages.forEach(function(html){
		//對html進行解析
		var courses = filterChapters(html)
		coursesData.push(courses)
	})
	
	//遍歷
	coursesData.sort(function(a,b){
		return a.number < b.number
	})
	
	printCourseInfo(coursesData)
})

運行結果如下：