Nodejs简单爬虫
2017-02-05 16:49
459 查看
安装node
初始化一个项目
testjs主要代码
总结
nodejs 爬虫需要几个模块,通过 npm install 来安装。
初始化完成后的目录结构如下
定义网站的URL,
定义数据保存文件,
采用http发起一次get请求,
保存为文件 saveHtml函数,通过node fs模块写入文件
至此,已经将网页内容抓取后保存为 test.txt文件。
初始化一个项目
testjs主要代码
总结
安装node
安装完成后,打开命令行,执行node -v 验证是否安装成功。初始化一个项目
使用 npm init -y 快速初始化一个新的项目,然后新建js文件。nodejs 爬虫需要几个模块,通过 npm install 来安装。
npm install cheerio --save-dev npm install request --save-dev npm install iconv-lite --save-dev
初始化完成后的目录结构如下
--test -----node_modules -----package.json -----test.js
test.js主要代码
引入需要的模块,var http = require('http'); var fs = require('fs'); var iconv = require('iconv-lite'); var cheerio = require('cheerio'); var request = require('request');
定义网站的URL,
var url ="";
定义数据保存文件,
var file = "./test.txt";
采用http发起一次get请求,
function InitialRequest(url){ http.get(url, function (req) { var html = ''; //保存请求网站的html代码 req.setEncoding('utf-8'); //防止中文乱码 //监听request data事件,当数据到来时触发事件 req.on('data', function (chunk) { //chunk表示接收到的数据 html += chunk; }); //监听request end事件,当数据传输完成时触发事件 req.on('end', function () { //用cheerio模块来解析html var $ = cheerio.load(html); //var images = $('img');//类似jquery获取dom元素 saveHtml(html,file);//将数据保存为文件 // console.log(html); }); }) }
保存为文件 saveHtml函数,通过node fs模块写入文件
function saveHtml(str, file){ fs.writeFile(file, str,function(err){ if(err) console.log("fail " + err); else console.log("success"); }); }
至此,已经将网页内容抓取后保存为 test.txt文件。
总结
这是用nodejs写的简单的爬虫抓取网页内容,其实也就是一个网络请求函数和一个保存文件函数,下面是完整代码。var http = require('http'); var fs = require('fs'); var iconv = require('iconv-lite'); var cheerio = require('cheerio'); var request = require('request');
var url ="";
var file = "./test.txt";
function InitialRequest(url){ http.get(url, function (req) { var html = ''; //保存请求网站的html代码 req.setEncoding('utf-8'); //防止中文乱码 //监听request data事件,当数据到来时触发事件 req.on('data', function (chunk) { //chunk表示接收到的数据 html += chunk; }); //监听request end事件,当数据传输完成时触发事件 req.on('end', function () { //用cheerio模块来解析html var $ = cheerio.load(html); //var images = $('img');//类似jquery获取dom元素 saveHtml(html,file);//将数据保存为文件 // console.log(html); }); }) }
function saveHtml(str, file){
fs.writeFile(file, str,function(err){
if(err)
console.log("fail " + err);
else
console.log("success");
});
}
InitialRequest(url);
相关文章推荐
- NodeJs简单七行爬虫--爬取自己Qzone的说说并存入数据库
- nodeJs爬虫获取数据简单实现代码
- nodejs 简单爬虫(一)
- Nodejs实现简单爬虫,将爬到的数据以json数据格式保存到MySQL数据库中
- 简单好用的nodejs 爬虫框架分享
- nodejs的简单爬虫
- nodejs简单爬虫->获取分页数据->下载多特的应用信息
- nodejs的简单爬虫
- nodeJS实现简单网页爬虫功能的实例(分享)
- 简单实现nodejs爬虫工具
- nodejs 简单爬虫(二)
- 简单高效的nodejs爬虫模型
- nodejs实现一个简单的爬虫
- Nodejs 爬虫简单编写
- 几种开源网络爬虫的简单比较
- 基于人人网的简单爬虫(一)——正则表达式
- 一个简单的JAVA网页爬虫
- 一个可以用来站内检索的简单爬虫
- PHP实现最简单爬虫原型
- 简单爬虫的实现原理