ProxyPool 爬虫代理IP池安装与使用（附官方文档）

2023-12-10 21:48| 来源: 网络整理| 查看: 265

安装：

GitHub上关于ProxyPool的安装【胎教级教学】_FLIF的博客-CSDN博客_proxypool安装第一步：ProxyPool的下载与配置第二步：Redis的下载与配置第三步：验证是否可用https://blog.csdn.net/weixin_48584917/article/details/121710521?csdn_share_tail=%7B%22type%22%3A%22blog%22%2C%22rType%22%3A%22article%22%2C%22rId%22%3A%22121710521%22%2C%22source%22%3A%22weixin_47251596%22%7D&ctrtid=75Gby

这个博主写的非常细节，可以直接参考。

使用：基本用法：

接上文，介绍一下proxy_pool的基本用法

import requests # 随机获取一个ip def get_proxy(): return requests.get("http://127.0.0.1:5010/get/").json() # 删除一个ip def delete_proxy(proxy): requests.get("http://127.0.0.1:5010/delete/?proxy={}".format(proxy)) def getHtml(): retry_count = 5 # 获得一个随机ip proxy = get_proxy().get("proxy") while retry_count > 0: try: # 尝试用获得的ip去访问测试网址 html = requests.get('http://www.example.com', proxies={"http": "http://{}".format(proxy)}) return html # 如果报错，则尝试次数-1，五次后停止访问 except Exception: retry_count -= 1 # 用完一次就删除代理池中这条代理ip delete_proxy(proxy) return None getHtml() 常用API： apimethodDescriptionparams/GETapi介绍None/getGET随机获取一个代理可选参数: ?type=https 过滤支持https的代理/popGET获取并删除一个代理可选参数: ?type=https 过滤支持https的代理/allGET获取所有代理可选参数: ?type=https 过滤支持https的代理/countGET查看代理数量None/deleteGET删除代理?proxy=host:ip 扩展代理：

项目默认包含几个免费的代理获取源，但是免费的毕竟质量有限，所以如果直接运行可能拿到的代理质量不理想。所以，提供了代理获取的扩展方法。

　　添加一个新的代理源方法如下:

1、首先在ProxyFetcher类中添加自定义的获取代理的静态方法，该方法需要以生成器(yield)形式返回host:ip格式的代理，例如: class ProxyFetcher(object): # .... # 自定义代理源获取方法 @staticmethod def freeProxyCustom1(): # 命名不和已有重复即可 # 通过某网站或者某接口或某数据库获取代理 # 假设你已经拿到了一个代理列表 proxies = ["x.x.x.x:3128", "x.x.x.x:80"] for proxy in proxies: yield proxy # 确保每个proxy都是 host:ip正确的格式返回

2、添加好方法后，修改setting.py文件中的PROXY_FETCHER项：

　　在PROXY_FETCHER下添加自定义方法的名字:

PROXY_FETCHER = [ "freeProxy01", "freeProxy02", # .... "freeProxyCustom1" # # 确保名字和你添加方法名字一致 ]

schedule 进程会每隔一段时间抓取一次代理，下次抓取时会自动识别调用你定义的方法。

官方文档：ProxyPool — ProxyPool 2.1.0 文档

【本文地址】

公司简介

联系我们