解决python爬虫ip被封的办法

  • 更新时间:2021-07-09 09:02:22
  • 编辑:富芷茹
本站精选了一篇相关的编程文章,网友蓬飞星根据主题投稿了本篇教程内容,涉及到代理、使用、可以、测试、解决相关内容,已被539网友关注,如果对知识点想更进一步了解可以在下方电子资料中获取。

参考资料

正文内容

码农之家最近发表了一篇名为《解决python爬虫ip被封的办法》的py文章,觉得有用就收藏了,重新排版了一下发到这里,希望对网友有用。

解决python爬虫ip被封的办法

1、把消息头伪装成浏览器

使用urllib.request.build_opener添加User-agent信息头,例如:

自行安装几台虚拟机,当不同的IP在上面跑爬虫时,频率不要太高,在添加过程中添加一台time.sleep(1)或(2),通常只要频率不太高,就不能区分是正常阅读还是爬行。

2、寻找proxy代理,respose发现异常时更换代理IP。

3、如果是拨号,密封后断线,重新拔号,更换新IP。

以上就是解决python爬虫ip被封的办法,当我们遇到这类情况时,可以按照本篇的处理办法逐个尝试,最后完成需要的采集数据工作。如果大家想测试使用下,可以尝试品易云http代理ip,免费测试包含各种类ip资源,无限调用IP量!更多常见问题解决:ip

本文教程操作环境:windows7系统、Python 3.9.1,DELL G3电脑。

相关教程

用户留言