爬虫程序要长期稳定的数据采集需要使用爬虫代理,避免目标网站出现IP访问限制。如何能够快速的分析数据采集的效果,准确分析采集过程中的问题,可以通过分析HTTP请求返回的各种状态码进行判断。一般来说在使用代理的过程中会出现如下的错误状态码:
1、407 Proxy Authentication Required
代理认证信息错误,该代理需要用户认证(或者认证信息错误),请带上正确的用户认证头。
2、429 Too Many Requests
(1)请求过快,请降低请求速率(2)目标网站反爬,限制爬虫请求
3、403 服务器拒绝请求
可能由目标网站的防护措施导致,建议升级爬虫策略,或者更换优质代理IP。
3、504 Proxy Gateway TimeoutLink
(1)代理正在切换IP,请sleep一段时间再试(2)目标网站不可达
如果出现少量504属于正常情况。如大量出现,建议在不使用代理的情况下检查目标网站是否可以访问。 可能由目标网站的防护措施导致,建议升级爬虫策略