2019-09-16

|

2019-09-30

| 反反爬

| 3

| 次阅读

巧破 Cloudflare 5秒盾

相信下面这个界面大家都不会陌生。【图1-1】

当我们第一次访问使用 CloudFlare 加速的网站时，网站就会出现让我们等待 5 秒种的提示，当我们需要的通过爬虫爬取这类网站的时候，应该如何爬取呢？

首先我们需要分析在这个等待的时间里浏览器做了哪些操作。

通过抓包，我们可以看到在等待的过程中，浏览器做了下面的三次请求【图1-2】- 【图1-4】：

【图1-2】请求 1 写入 cookie 字段 __cfduid

【图1-3】请求 2 带有疑似加密的请求参数请求并写入 cookie 字段 cf_clearance

【图1-4】请求 3 带上前面写入的cookie 请求网站首页，返回首页内容。

这整个过程需要的请求现在已经分析清楚了，接下来就是使用 Python 实现这个请求流程，不过是这样的话就配不上这个标题了。

先说说这个按照正常流程是怎么实现抓取绕过的：

• 使用浏览器模拟技术请求目标网站，例如：Selenium、 PhantomJS等
• 破解请求 2 的加密参数使用请求库模拟整个请求过程

这两个方法当然是可以抓取的，但是都不符合标题的巧字。

接下来给大家介绍一个专门为了绕过这个 CloudFlare 开发的 Python 库 cloudflare-scrape

用上它就可以无感爬取使用了 CloudFlare 的网站，使用这个库非常简单。

pip install cfscrape

安装cloudflare-scrape，同时确认本地是否安装node.js开发环境，如果没有，需要安装配置nodejs开发环境。

处理 get 请求的 CloudFlare

import cfscrape
# 实例化一个create_scraper对象
scraper = cfscrape.create_scraper()
# 请求报错，可以加上时延
# scraper = cfscrape.create_scraper(delay = 10)
# 获取网页源代码
web_data = scraper.get("https://wallhere.com/").content
print(web_data)

处理 post 请求的 CloudFlare

# import cfscrape
# 实例化一个create_scraper对象
scraper = cfscrape.create_scraper()
# 获取真实网页源代码
web_data = scraper.post("http://example.com").content
print(web_data)

使用cloudflare-scrape后整个请求过程如丝般顺滑。

今天的水文到这里就结束了，很高兴又水了一篇文章。

之后抽个时间讲讲请求 2 中的加密参数如何生成，这样就可以再水一篇，敬请期待~

• 本文作者： 煌金 | 微信公众号【咸鱼学Python】
• 本文链接： http://www.xianyucoder.cn/2019/09/16/反反爬-巧破 Cloudflare 5秒盾/
• 版权声明： 本博客所有文章除特别声明外，均采用 许可协议。转载请注明出处！
• 并保留本声明和上方二维码。感谢您的阅读和支持！