python爬虫设置代理ip池_图文教程

python爬虫设置代理ip池_图文教程
前言
随着大数据时代的到来，爬虫已经成了获取数据的必不可少的方式，做过爬虫的想必都深有体会，爬取的时候莫名其妙IP 就被网站封掉了，毕竟各大网站也不想自己的数据被轻易地爬走。

对于爬虫来说，为了解决封禁IP 的问题，一个有效的方式就是使用代理，使用代理之后可以让爬虫伪装自己的真实IP，如果使用大量的随机的代理进行爬取，那么网站就不知道是我们的爬虫一直在爬取了，这样就有效地解决了反爬的问题。

那么问题来了，使用什么代理好呢？这里指的代理一般是HTTP 代理，主要用于数据爬取。

现在打开搜索引擎一搜HTTP 代理，免费的、付费的太多太多品牌，我们该如何选择呢？看完这一篇文章，想必你心中就有了答案。

对于免费代理，其实想都不用想了，可用率能超过10% 就已经是谢天谢地了。

真正靠谱的代理还是需要花钱买的，那这么多家到底哪家可用率高？哪家响应速度快？哪家比较稳定？哪家性价比比较高？为此，我对市面上比较流行的多家付费代理针对可用率、爬取速度、爬取稳定性、价格、安全性、请求限制等做了详细的评测，让我们来一起看一下到底哪家更强！
测评目标：618IP代理。

选择这家做为评测对象
本次测评主要分析代理的可用率、响应速度、稳定性、价格、安全性、使用频率等因素，下面我们来一一进行说明。

可用率
可用率就是提取的这些代理中可以正常使用的比率。

假如我们无法使用这个代理请求某个网站或者访问超时，那么就代表这个代理不可用，在这里我的测试样本大小为500，即提取500 个代理，看看里面可用的比率多少。

响应速度
响应速度可以用耗费时间来衡量，即计算使用这个代理请求网站一直到得到响应所耗费的时间。

时间越短，证明代理的响应速度越快，这里同样是500 个样本，计算时只对正常可用的代理做统计，计算耗费时间的平均值。

稳定性
由于爬虫时我们需要使用大量代理，如果一个代理响应速度特别快，很快就能得到响应，而下一次请求使用的代理响应速度特别慢，等了三十秒才得到响应，那势必会影响爬取效率，所以我们需要看下商家提供的这些代理稳定性怎样，总不能这一个特别快，下一个又慢的不行。

所以这里我们需要统计一下耗费时间的方差，方差越大，证明稳定性越差。

价格
价格，这个当然是需要考虑的内容，如果一个代理不论是响应速度还是稳定性都特别不错，但是价格非常非常高，这也是不可接受的。

安全性
这的确也是需要考虑的因素，比如一旦不小心把代理提取的API 泄露出去了，别人就肆意使用我们的API 提取代理使用，而一直耗费的是我们的套餐。

另外一旦别人通过某些手段获取了我们的代理列表，而这些代理是没有安全验证的，这也会导致别人偷偷使用我们的代理。

在生产环境上，这方面尤其需要注意。

使用频率
有些代理套餐在API 调用提取代理时有频率限制，有的代理套餐则会限制请求频率，这些因素都会或多或少影响爬虫的效率，这部分因素我们也需要考虑进来。

测评标准
要做标准的测评，那就必须在标准的测评环境下进行，且尽可能排除一些杂项的干扰，如网络波动、传输延迟等一系列的影响。

主机选取
由于我的个人笔记本是使用WiFi 上网的，所以可能会有网络波动，而且实际带宽其实并不太好把控，因此它并不适合来做标准评测使用。

评测需要在一个网络稳定的条件下进行，而且多个代理的评测环境必须相同，在此我选择了一台腾讯云主机作为测试，主机配置如下：
这样我们就可以保证一个标准统一的测试环境了。

现取现测
另外在评测时还需要遵循一个原则，那就是现取现测，即取一个测一个。

现在很多付费代理网站都提供了API 接口，我们可以一次性提取多个代理，但是这样会导致一个问题，每个代理在提取出来的时候，商家是会尽量保证它的可用性的，但过一段时间，这个代理可能就不好用了，所以假如我们一次性提取出来了100 个代理，但是这100 个代理并没有同时参与测试，后面的代理就会经历一个的等待期，过一段时间再测这些代理的话，肯定会影响后半部分代理的有效性，所以这里我们将提取的数量统一设置成1，即请求一次接口获取一个代理，然后立即进行测试，这样可以保证测试的公平性，排除了不同代理有效期的干扰。

时间计算
由于我们有一项是测试代理的响应速度，所以我们需要计算程序请求之前和得到响应之后的时间差，这里我们使用的测试Python 库是requests，所以我们就计算发起请求和得到响应之间的时间差即可，时间计算方法如下所示：
这里used_time 就是使用代理请求的耗时，这样测试的就仅仅是发起请求到得到响应的时间。

测试链接
测试时我们也需要使用一个稳定的且没有反爬虫的链接，这样可以排除服务器的干扰，这里我们使用百度来作为测试目标。

超时限制
在测试时免不了的会遇到代理请求超时的问题，所以这里我们也需要统一一个超时时间，这里设置为60 秒，如果使用代理请求百度，60 秒还没有得到响应，那就视为该代理无效。

测试数量
要做测评，那么样本不能太小，如只有十几次测试是不能轻易下结论的，这里我选取了一个适中的测评数量500，即每个套餐获取500 个代理进行测试。

测评过程
嗯，测评过程这边主要说一下测评的代码逻辑，首先测的时候是取一个测一个的，所以这里定义了一个test_proxy() 方法：
这里需要传入一个参数proxy，代表一个代理，即IP 加端口组成的代理，然后这里使用了requests 的proxies 参数传递给get() 方法。

对于代理无效的检测，这里判断了ProxyError, ConnectTimeout, SSLError, ReadTimeout, ConnectionError 这几种异常，如果发生了这些异常统统视为代理无效，返回错误。

如果在timeout 60 秒内得到了响应，那么就计算其耗费时间并返回。

在主程序里，就是获取API 然后统计结果了，代码如下：
这里加了一些判断，如is_proxy() 方法判断了获取的是不是符合有效的代理规则，即判断它是不是IP 加端口的形式，这样可以排除API 返回一些错误信息的干扰。

另外这里设置了total_count 和valid_count 变量，只有符合代理规则的代理参与了测试，这样才算一次有效测试，total_count 加一，如果测试可用，那么valid_count 加一并记录耗费时间。

最后调用了stats_results 方法进行了统计：
这里使用了Numpy 来统计了耗费时间的均值和方差，分别反映代理的响应速度和稳定性。

嗯，就这样，利用这个方法我对各个不同的代理套餐逐一进行了测试。

最好结果：
通过可用率响应速度稳定性价格安全性统计，我们可以发现这个是非常不错的，推荐指数100%，不许你买到不好的东西。