Node.js抓取中文网页乱码问题和解决方法

前端之家收集整理的这篇文章主要介绍了Node.js抓取中文网页乱码问题和解决方法前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。

Node.js 抓取非 utf-8 的中文网页时会出现乱码问题,比如网易的首页编码是 gb2312,抓取时会出现乱码

代码如下:

request(url,function (err,res,body) { console.log(body) })

可以使用 来解决

安装

代码如下:
同时我们顺带把 user-agent 修改一下,以防网站屏蔽
代码如下:

function request (url,callback) { var options = { url: url, encoding: null, headers: headers } originRequest(options,callback) }

request(url,body) { var html = iconv.decode(body,'gb2312') console.log(html) })

乱码问题解决

使用 cheerio 解析 HTML

可以简单粗暴的理解为服务器端 jQuery 选择器,有了它,比正则要更加直观许多

安装

代码如下:
输出如下
代码如下:
那么问题来了,$('h1').html() 输出代码是经过 Unicode 编码的,网易变成了网易,给我们的字符处理带来了一些麻烦

解决 cheerio .html() 「乱码」问题

查阅可知,可以关闭这个转换实体编码的功能
代码如下:
改成
代码如下:
即可,完整代码如下:
代码如下:

var url = 'http://www.163.com'

request(url,'gb2312') var $ = cheerio.load(html,{decodeEntities: false}) console.log($('h1').text()) console.log($('h1').html()) })

猜你在找的JavaScript相关文章