Python爬虫是一种您可以轻松地做的技术，并且可以深入挖掘。例如爬取1000万个数据可能需要一周时间。但是，如果您的爬虫玩得更好，那么您可以在分布式爬虫中完成1000万个数据。虽然它们是爬虫，但菜鸟和大牛之间的区别！这就和太极拳似的，易学难精！
这里面的技术点挺多的！现在来简单聊聊爬虫需要涉及的知识点。
网页知识
html，js,css，xpath这些知识，虽然简单，但一定需要了解。你得知道这些网页是如何构成的，然后才能去分解他们。
一般爬虫你需要模拟浏览器的操作，才能去获取网页的信息
如果有些网站需要登录，才能获取更多的资料，你得去登录，你得把登录的账号密码进行提交
有些网站登录后需要保存cookie信息才能继续获取更多资料
正则表达式
有了正则表达式才能更好的分割网页信息，获取我们想要的数据，所以正则表达式也是需要了解的。
一些重要的爬虫库
url,url2,requests
beautiulSoup4,re，lxml
数据库
爬取到的数据我们得有个地方来保存，可以使用文件，也可以使用数据库，这里我会使用mysql，还有更适合爬虫的MongoDB数据库，以及分布式要用到的redis 数据库
爬虫框架
PySpider和Scrapy 这两个爬虫框架是非常NB的,简单的爬虫可以使用urllib与urllib2以及正则表达式就能完成，但高级的爬虫还得用这两个框架。这两个框架需要另行安装。后面一起学习.
反爬虫
有时候你的网站数据想禁止别人爬取，可以做一些反爬虫处理操作。打比方百度上就无法去查找淘宝上的数据，这样就避开了搜索引擎的竞争，淘宝就可以搞自己的一套竞价排名
分布式爬虫
使用多个redis实例来缓存各台主机上爬取的数据。
爬虫要学的东西还是挺多的，想把爬虫玩得666，基本就是这些知识点吧！好了，上面的东西我也只是粗略整理，笔误在所难免，后面我们会一起来学习爬虫知识吧！而我也准备做这样一套完整的爬虫系列教程！