抖音爬虫教程，python爬虫采集反爬策略
一、爬虫与反爬简介
爬虫就是我们利用某种程序代替人工批量读取、获取网站上的资料信息。而反爬则是跟爬虫的对立面，是竭尽全力阻止非人为的采集网站信息，二者相生相克，水火不容，到目前为止大部分的网站都还是可以轻易的爬取资料信息。
爬虫想要绕过被反的策略就是尽可能的让服务器人你不是机器程序，所以在程序中就要把自己伪装成浏览器访问网站，这可以极大程度降低被反的概率，那如何做到伪装浏览器呢？
1.可以使用请求头（headers）来掩饰自己，其中最常用的就是User Agent（中文名为用户代理），是Http协议中的一部分，属于头域的组成部分，User Agent也简称 UA 。它是一个特殊字符串头，是一种向访问网站提供你所使用的浏览器类型及版本、操作系统及版本、浏览器内核、等信息的标识；表示当前访问服务器的身份信息，如果同一个身份过于频繁的访问服务器会被识别为机器身份，遭到反爬的打击，所以需要频繁的更改User-Agent信息；一般User-Agent字段包括以下几个信息：浏览器标识 (操作系统标识; 加密等级标识; 浏览器语言) 渲染引擎标识 版本信息；
2.使用不同的User-Agent来规避反爬策略
比如：
Accept：客户端支持的数据类型，用逗号隔开，是有顺序的，分号前面是主类型，分号后是子类型； Accept-Encoding：指定浏览器可以支持的web服务器返回内容压缩编码类型； Accept-Language：浏览器可接受的自然语言的类型； Connection：设置HTTP连接的持久化，通常都是Keep-Alive； Host：服务器的域名或IP地址，如果不是通用端口，还包含该端口号； Referer：指当前请求的URL是在什么地址引用的；user_agent_list = [ "Opera/9.80 (X11; Linux i686; U; hu) Presto/2.9.168 Version/11.50", "Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11", "Opera/9.80 (X11; Linux i686; U; es-ES) Presto/2.8.131 Version/11.11", "Mozilla/5.0 (Windows NT 5.1; U; en; rv:1.8.1) Gecko/20061208 Firefox/5.0 Opera 11.11", "Opera/9.80 (X11; Linux x86_64; U; bg) Presto/2.8.131 Version/11.10", "Opera/9.80 (Windows NT 6.0; U; en) Presto/2.8.99 Version/11.10", "Opera/9.80 (Windows NT 5.1; U; zh-tw) Presto/2.8.131 Version/11.10", "Opera/9.80 (Windows NT 6.1; Opera Tablet/15165; U; en) Presto/2.8.149 Version/11.1", "Opera/9.80 (X11; Linux x86_64; U; Ubuntu/10.10 (maverick); pl) Presto/2.7.62 Version/11.01", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.97 Safari/537.36", "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:70.0) Gecko/20100101 Firefox/70.0", "Opera/9.80 (X11; Linux i686; Ubuntu/14.10) Presto/2.12.388 Version/12.16", "Opera/9.80 (Windows NT 6.0) Presto/2.12.388 Version/12.14", "Mozilla/5.0 (Windows NT 6.0; rv:2.0) Gecko/20100101 Firefox/4.0 Opera 12.14", "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.0) Opera 12.14", "Opera/12.80 (Windows NT 5.1; U; en) Presto/2.10.289 Version/12.02", "Opera/9.80 (W.........