Node.js 抓取非 utf-8 的中文网页时会出现乱码问题,比如网易的首页编码是 gb2312,抓取时会出现乱码
代码如下:
request(url,function (err,res,body) { console.log(body) })
安装
代码如下:
同时我们顺带把 user-agent 修改一下,以防网站屏蔽:
代码如下:
function request (url,callback) { var options = { url: url, encoding: null, headers: headers } originRequest(options,callback) }
request(url,body) { var html = iconv.decode(body,'gb2312') console.log(html) })
乱码问题解决
使用 cheerio 解析 HTML
可以简单粗暴的理解为服务器端 jQuery 选择器,有了它,比正则要更加直观许多
安装
代码如下:
输出如下
代码如下:
那么问题来了,$('h1').html() 输出的代码是经过 Unicode 编码的,网易变成了网易,给我们的字符处理带来了一些麻烦
解决 cheerio .html() 「乱码」问题
查阅可知,可以关闭这个转换实体编码的功能 代码如下: