每日分享:
不要自卑,你不比别人笨;不要自满,别人不比你笨。你的未来还没定下来,剧本得由你自己来写。读书不是唯一的出路,但却是最容易的出路。为了成为理想中的自己,就这样一步一步前进吧。就算命运没有宠幸你,你也要好好善待自己。
一、pipeline中常用的方法
1. process_item(self,item,spider)
管道类中必须有的函数
实现对item数据的处理
必须return item
2. open_spider(self,spider):在爬虫开启的时候仅执行一次
3. close_spider(self,spider):在爬虫关闭的时候仅执行一次
二、管道的使用
总体思路:
items中建模
创建爬虫cwangyi2
完善爬虫
pipelines中写入一个新管道
在settings中打开管道
1.建模
2. 创建爬虫
3. 完善爬虫
4. 写入新管道
5. 打开管道
三、为什么settings中能够(需要)开启多个管道
不同的pipeline可以处理不同的爬虫数据,通过spider.name属性区分
不同的pipeline能够对一个或多个爬虫进行不同的数据处理操作,比如一个进行数据清洗,一个进行数据保存
同一个管道类也可以处理不同爬虫的数据,通过spider.name属性来区分
四、pipeline使用注意点
使用之前需要在settings中开始
pipeline在setting中键表示位置(即pipeline在项目中的位置可以自定义),值表示距离引擎的远近,越近的数据会越先经过:权重值小的优先执行
有多个pipeline的时候,process_item的方法必须return item,否则后一个pipeline取到的数据为None值
pipeline中process_item的方法必须有,否则item没有办法接收和处理
process_item方法接收item和spider,其中spider表示当前传递item过来的spider
open_spider(spider):能够在爬虫开启的时候执行一次
close_spider(spider):能够在爬虫关闭的时候执行一次
上述两个方法经常用于爬虫和数据库的交互,在爬虫开启的时候建立和数据库的连接,在爬虫关闭的时候断开和数据库的连接