博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
nodejs爬虫数据存入mysql
阅读量:4959 次
发布时间:2019-06-12

本文共 1509 字,大约阅读时间需要 5 分钟。

node爬虫主要用的是三个插件

request  cheerio mysql

废话不多说直接上代码

const request=require("request")  const cheerio=require("cheerio")  const  mysql=require('mysql')  var connection = mysql.createConnection({  //配置参数,然后添加你的数据库里面的表  host: 'localhost',  user: 'root',  password: 'root',  database: 'test'})connection.connect();  //连接function show(item){  request('http://www.1905.com/vod/list/n_1_t_1/o1p'+item+'.html',function(err,res){        if(err){            console.log('请求出错');        }else{            var $ = cheerio.load(res.body, {decodeEntities: false});          $('.search-list>div').each(function(){              var newsTitle = $(this).find('p').text();              var news1Title = $(this).find('h3').text();              var code = $(this).find('i').text();               var newsTime= "";              var newsUrl= $(this).find('a').attr('href');              var addSql = "insert into blog(title,time,href,title2,codeNum) values (?,?,?,?,?)";               var addParmas = [newsTitle, newsTime,newsUrl,news1Title,code];              connection.query(addSql,addParmas,function(err,data){                  if(err){                      console.log("数据库连接错误");                  }else{                  item++;                   show(item)                }              })            });       }    });}show(1)

前提是一定要先分析别人网站的页面结构,然后就是如果你没有esc的话,你打开本地的mysql,再test下建立一张blog的表即可

最后的效果是

就这........

 

对了,就是如果你没有取消mysql的限制的话,应该是只可以导入1000条数据的,如果你想取消限制的话,可以直接如下图点击取消即可

 

转载于:https://www.cnblogs.com/ldlx-mars/p/9155419.html

你可能感兴趣的文章
简单的发邮件功能实现
查看>>
velocity模板引擎学习(3)-异常处理
查看>>
OllyDBG 1.10
查看>>
[svc][op]杀进程
查看>>
linux安装jdk
查看>>
求1+2+3+...+n
查看>>
[EXP]Microsoft Windows CONTACT - Remote Code Execution
查看>>
【面试】MySQL 中NULL和空值的区别?
查看>>
用js判断 iPhone6 iPhone6 plus iphonex?
查看>>
NOIp2016 蚯蚓 【二叉堆/答案单调性】By cellur925
查看>>
NOIp知识集合 By cellur925
查看>>
Nginx设置日志分割方法
查看>>
教学目标的表述方式──行为目标的ABCD表述法
查看>>
交换两个变量的值的若干种方法
查看>>
CKEditor 配置
查看>>
闪烁的文字
查看>>
IOS开发-点击View取消键盘输入
查看>>
标准库 string
查看>>
C++内联函数
查看>>
LNMP 1.1 php编译安装
查看>>