广州明生堂生物科技有限公司


node.js爬虫爬取拉勾网职位信息

网络编程 node.js爬虫爬取拉勾网职位信息 06-22

简介

用node.js写了一个简单的小爬虫,用来爬取拉勾网上的招聘信息,共爬取了北京、上海、广州、深圳、杭州、西安、成都7个城市的数据,分别以前端、PHP、java、c++、python、Android、ios作为关键词进行爬取,爬到的数据以json格式储存到本地,为了方便观察,我将数据整理了一下供大家参考

数据结果

查看图片

上述数据为3月13日22时爬取的数据,可大致反映各个城市对不同语言的需求量。

爬取过程展示

控制并发进行爬取

查看图片

爬取到的数据文件

查看图片

json数据文件

查看图片

爬虫程序

实现思路

请求拉钩网的 “https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false&city=城市&kd=关键词&pn=页数”可以返回一个json格式的数据,该数据包含所要请求职位的信息,省去了使用chreio解析的麻烦,所以直接用superagent来进行请求上述地址,并将数据储存在本地即可,其中参数city是为城市,kd为所要搜索的关键词,pn为要请求的页数,当中使用到了async来控制异步流程,使得并发数不超过3,防止被封ip。

代码地址及使用

github:https://github.com/zsqosos/positionAnalysis

代码请在github上查看,使用该程序需要安装node环境,如果觉得还不错的话烦请给个star,欢迎大家修改使用该程序。

以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持积木网!

Node.js 中exports 和 module.exports 的区别
Node.js中exports和module.exports的区别require用来加载代码,而exports和module.exports则用来导出代码。但很多新手可能会迷惑于exports和module.exports的区别,为了更

nodejs+express实现文件上传下载管理网站
nodejs+express-实现文件上传下载管理的网站项目Github地址:https://github.com/qcer/updo后端:基于nodejs的express的web框架.前端:bootstrap框架+vuejs、jquery等js库功能

用nodeJS搭建本地文件服务器的几种方法小结
搭建nodejs服务器步骤:1.安装nodejs服务,node相当于apache服务器2.在自己定义的目录下新建服务器文件如server.js例如,我在E:PhpProjectHTML5websocket下创建了ser


编辑:广州明生堂生物科技有限公司

标签:数据,代码,服务器,城市,爬虫