前言：最近想学习node.js,突然在网上看到基于node的爬虫制作教程，所以简单学习了一下，把这篇文章分享给同样初学node.js的朋友。
目标：爬取 网站的所有门店发型师的基本信息。
思路：访问上述网站，通过chrome浏览器的network对网页内容分析，找到获取各个门店发型师的接口，对参数及返回数据进行分析，遍历所有门店的所有发型师，直到遍历完毕，同事将信息存储到本地。
步骤一：
安装node.js下载并安装node，此步骤比较简单就不详细解释了，有问题的可以直接问一下度娘。
步骤二：
建立工程1）打开dos命令条，cd进入想要创建项目的路径（我将此项目直接放在了E盘，以下皆以此路径为例）；
2）mkdir node （创建一个文件夹用来存放项目，我这里取名为node）；
3）cd 进入名为node的文件夹，并执行npm init初始化工程（期间会让填写一些信息，我是直接回车的）；
步骤三：
创建爬取到的数据存放的文件夹1）创建data文件夹用来存放发型师基本信息；
2）创建image文件夹用来存储发型师头像图片；
此时工程下文件如下：
步骤四：
安装第三方依赖包（fs是内置模块，不需要单独安装）1）npm install cheerio –save
2）npm install superagent –save
3）npm install async –save
4）npm install request –save
分别简单解释一下上面安装的依赖包：
cheerio：是nodejs的抓取页面模块，为服务器特别定制的，快速、灵活、实施的jQuery核心实现，则能够对请求结果进行解析，解析方式和jQuery的解析方式几乎完全相同；
superagent：能够实现主动发起get/post/delete等请求；
async：async模块是为了解决嵌套金字塔,和异步流程控制而生，由于nodejs是异步编程模型，有一些在同步编程中很容易做到的事情，现在却变得很麻烦。Async的流程控制就是为了简化这些操作；
request：有了这个模块，http请求变的超简单，Request使用简单，同时支持https和重定向；
步骤五：
编写爬虫程序代码打开hz.js，编写代码：
<div class="jb51code">
<pre class="brush:js;">
var superagent = require('superagent');
var cheerio = require('cheerio');
var async = require('async');
var fs = require('fs');
var request = require('request');
var page=1; //获取发型师处有分页功能，所以用该变量控制分页
var num = 0;//爬取到的信息总条数
var storeid = 1;//门店ID
console.log('爬虫程序开始运行......');
function fetchPage(x) { //封装函数
startRequest(x);
}
function startRequest(x) {
superagent
.post('http://tweixin.yueyishujia.com/v2/store/designer.json')
.send({
// 请求的表单信息Form data
page : x,storeid : storeid
})
// Http请求的Header信息
.set('Accept','application/json,text/javascript,/; q=0.01')
.set('Content-Type','application/x-www-form-urlencoded; charset=UTF-8')
.end(function(err,res){
// 请求返回后的处理
// 将response中返回的结果转换成JSON对象
if(err){
console.log(err);
}else{
var designJson = JSON.parse(res.text);
var deslist = designJson.data.designerlist;
if(deslist.length > 0){
num += deslist.length;
// 并发遍历deslist对象
async.mapLimit(deslist,5,function (hair,callback) {
// 对每个对象的处理逻辑
console.log('...正在抓取数据ID：'+hair.id+'----发型师:'+hair.name);
saveImg(hair,callback);
},function (err,result) {
console.log('...累计抓取的信息数→→' + num);
}
);
page++;
fetchPage(page);
}else{
if(page == 1){
console.log('...爬虫程序运行结束~~~');
console.log('...本次共爬取数据'+num+'条...');
return;
}
storeid += 1;
page = 1;
fetchPage(page);
}
}
});
}
fetchPage(page);
function saveImg(hair,callback){
// 存储图片
var img_filename = hair.store.name+'-'+hair.name + '.png';
var img_src = 'http://photo.yueyishujia.com:8112' + hair.avatar; //获取图片的url
//采用request模块，向服务器发起一次请求，获取图片资源
request.head(img_src,function(err,res,body){
if(err){
console.log(err);
}else{
request(img_src).pipe(fs.createWriteStream('./image/' + img_filename)); //通过流的方式，把图片写到本地/image目录下，并用发型师的姓名和所属门店作为图片的名称。
console.log('...存储id='+hair.id+'相关图片成功！');
}
});
// 存储照片相关信息
var html = '姓名：'+hair.name+'
职业：'+hair.jobtype+'
职业等级：'+hair.jobtitle+'
简介：'+hair.simpleinfo+'
个性签名：'+hair.info+'
剪发价格：'+hair.cutmoney+'元
店名：'+hair.store.name+'
地址：'+hair.store.location+'
联系方式：'+hair.telephone+'
头像：<img src='+img_src+' style="width:200px;height:200px;">';
fs.appendFile('./data/' +hair.store.name+'-'+ hair.name + '.html',html,'utf-8',function (err) {
if (err) {
console.log(err);
}
});
callback(null,hair);
}
