学习时的学习资料python基础数据库和js

# ProxyPool     简易高效的代理池，提供如下功能： * 定时抓取免费代理网站，简易可扩展。 * 使用 Redis 对代理进行存储并对代理可用性进行排序。 * 定时测试和筛选，剔除不可用代理，留下可用代理。 * 提供代理 API，随机取用测试通过的可用代理。 代理池原理解析可见「[如何搭建一个高效的代理池](https://cuiqingcai.com/7048.html)」，建议使用之前阅读。 ## 使用准备 首先当然是克隆代码并进入 ProxyPool 文件夹： ``` git clone https://github.com/Python3WebSpider/ProxyPool.git cd ProxyPool ``` 然后选用下面 Docker 和常规方式任意一个执行即可。 ## 使用要求 可以通过两种方式来运行代理池，一种方式是使用 Docker（推荐），另一种方式是常规方式运行，要求如下： ### Docker 如果使用 Docker，则需要安装如下环境： * Docker * Docker-Compose 安装方法自行搜索即可。 ### 常规方式 常规方式要求有 Python 环境、Redis 环境，具体要求如下： * Python>=3.6 * Redis ## Docker 运行 如果安装好了 Docker 和 Docker-Compose，只需要一条命令即可运行。 ```shell script docker-compose up ``` 运行结果类似如下： ``` redis | 1:M 19 Feb 2020 17:09:43.940 * DB loaded from disk: 0.000 seconds redis | 1:M 19 Feb 2020 17:09:43.940 * Ready to accept connections proxypool | 2020-02-19 17:09:44,200 CRIT Supervisor is running as root. Privileges were not dropped because no user is specified in the config file. If you intend to run as root, you can set user=root in the config file to avoid this message. proxypool | 2020-02-19 17:09:44,203 INFO supervisord started with pid 1 proxypool | 2020-02-19 17:09:45,209 INFO spawned: 'getter' with pid 10 proxypool | 2020-02-19 17:09:45,212 INFO spawned: 'server' with pid 11 proxypool | 2020-02-19 17:09:45,216 INFO spawned: 'tester' with pid 12 proxypool | 2020-02-19 17:09:46,596 INFO success: getter entered RUNNING state, process has stayed up for > than 1 seconds (startsecs) proxypool | 2020-02-19 17:09:46,596 INFO success: server entered RUNNING state, process has stayed up for > than 1 seconds (startsecs) proxypool | 2020-02-19 17:09:46,596 INFO success: tester entered RUNNING state, process has stayed up for > than 1 seconds (startsecs) ``` 可以看到 Redis、Getter、Server、Tester 都已经启动成功。 这时候访问 [http://localhost:5555/random](http://localhost:5555/random) 即可获取一个随机可用代理。 如果下载速度特别慢，可以自行修改 Dockerfile，修改： ```diff - RUN pip install -r requirements.txt + RUN pip install -r requirements.txt -i https://pypi.douban.com/simple ``` ## 常规方式运行 如果不使用 Docker 运行，配置好 Python、Redis 环境之后也可运行，步骤如下。 ### 安装和配置 Redis 本地安装 Redis、Docker 启动 Redis、远程 Redis 都是可以的，只要能正常连接使用即可。 首先可以需要一下环境变量，代理池会通过环境变量读取这些值。 设置 Redis 的环境变量有两种方式，一种是分别设置 host、port、password，另一种是设置连接字符串，设置方法分别如下： 设置 host、port、password，如果 password 为空可以设置为空字符串，示例如下： ```shell script export REDIS_HOST='localhost' export REDIS_PORT=6379 export REDIS_PASSWORD='' export REDIS_DB=0 ``` 或者只设置连接字符串： ```shell script export REDIS_CONNECTION_STRING='redis://[password]@host:port/db' ``` 如果没有密码也要设置为： ```shell script export REDIS_CONNECTION_STRING='redis://@host:port/db' ``` 这里连接字符串的格式需要符合 `redis://[password]@host:port/db` 的格式，注意不要遗漏 `@`。 以上两种设置任选其一即可。 ### 安装依赖包 这里强烈推荐使用 [Conda](https://docs.conda.io/projects/conda/en/latest/user-guide/tasks/manage-environments.html#creating-an-environment-with-commands) 或 [virtualenv](https://virtualenv.pypa.io/en/latest/user_guide.html) 创建虚拟环境，Python 版本不低于 3.6。 然后 pip 安装依赖即可： ```shell script pip3 install -r requirements.txt ``` ### 运行代理池 两种方式运行代理池，一种是 Tester、Getter、Server 全部运行，另一种是按需分别运行。 一般来说可以选择全部运行，命令如下： ```shell script python3 run.py ``` 运行之后会启动 Tester、Getter、Server，这时访问 [http://localhost:5555/random](http://localhost:5555/random) 即可获取一个随机可用代理。 或者如果你弄清楚了代理池的架构，可以按需分别运行，命令如下： ```shell script python3 run.py --processor getter python3 run.py --processor tester python3 run.py --processor server ``` 这里 processor 可以指定运行 Tester、Getter 还是 Server。 ## 使用 成功运行之后可以通过 [http://localhost:5555/random](http://localhost:5555/random) 获取一个随机可用代理。 可以用程序对接实现，下面的示例展示了获取代理并爬取网页的过程： ```python import requests proxypool_url = 'http://127.0.0.1:5555/random' target_url = 'http://httpbin.org/get' def get_random_proxy(): """ get random proxy from proxypool :return: proxy """ return requests.get(proxypool_url).text.strip() def crawl(url, proxy): """ use proxy to crawl page :param url: page url :param proxy: proxy, such as 8.8.8.8:8888 :return: html """ proxies = {'http': 'http://' + proxy} return requests.get(url, proxies=proxies).text def main(): """ main method, entry point :return: none """ proxy = get_random_proxy() print('get random proxy', proxy) html = crawl(target_url, proxy) print(html) if __name__ == '__main__': main() ``` 运行结果如下： ``` get random proxy 116.196.115.209:8080 { "args": {}, "headers": { "Accept": "*/*", "Accept-Encoding": "gzip, deflate", "Host": "httpbin.org", "User-Agent": "python-requests/2.22.0", "X-Amzn-Trace-Id": "Root=1-5e4d7140-662d9053c0a2e513c7278364" }, "origin": "116.196.115.209", "url": "https://httpbin.org/get" } ``` 可以看到成功获取了代理，并请求 httpbin.org 验证了代理的可用性。 ## 可配置项 代理池可以通过设置环境变量来配置一些参数。 ### 开关 * ENABLE_TESTER：允许 Tester 启动，默认 true * ENABLE_GETTER：允许 Getter 启动，默认 true * ENABLE_SERVER：运行 Server 启动，默认 true ### 环境 * APP_ENV：运行环境，可以设置 dev、test、prod，即开发、测试、生产环境，默认 dev * APP_DEBUG：调试模式，可以设置 true 或 false，默认 true ### Redis 连接 * REDIS_HOST：Redis 的 Host * REDIS_PORT：Redis 的端口 * REDIS_PASSWORD：Redis 的密码 * REDIS_DB：Redis 的数据库索引，如 0、1 * REDIS_CONNECTION_STRING：Redis 连接字符串 * REDIS_KEY：Redis 储存代理使用字典的名称 ### 处理器 * CYCLE_TESTER：Tester 运行周期，即间隔多久运行一次测试，默认 20 秒 * CYCLE_GETTER：Getter 运行周期，即间隔多久运行一次代理获取，默认 100 秒 * TEST_URL：测试 URL，默认百度 * TEST_TIMEOUT：测试超时时间，默认 10 秒 * TEST_BATCH：批量测试数量，默认 20 个代理 * TEST_VALID_STATUS：测试有效的状态吗 * API_HOST：代理 Server 运行 Host，默认 0.0.0.0 * API_PORT：代理 Server 运行端口，默认 5555 * API_THREADED：代理 Server 是否使用多线程，默认