为了账号安全,请及时绑定邮箱和手机立即绑定

requests如何在不下载响应体的情况下重用连接?

requests如何在不下载响应体的情况下重用连接?

芜湖不芜 2019-02-24 21:08:08
实际需求场景是想让爬虫只通过检验http的返回码,以此校验之前下载的某个资源是否还在线;因为并不需要下载响应体,所以使用了requests的Session对象并在动词方法中添加了stream = True的参数,如下: s = requests.Session() s.mount('http://', requests.adapters.HTTPAdapter(pool_connections=1, pool_maxsize=1)) for i in range(20): url = "http://www.site.com/resources/%s" % i with closing(s.get(url, allow_redirects = False, stream = True)) as r: print r.status_code 因为启用了stream = True模式,未下载响应体的情况下,连接不会关闭,肯定是无法重用连接池中的连接了,可是强制关闭连接的话,日志输出是这样: INFO - connectionpool.py[249] - Resetting dropped connection: www.site.com 感觉这个“Resetting dropped connection”跟文档里写的不太一致呢? requests的文档中写道: 如果你在请求中把 stream 设为 True,Requests 无法将连接释放回连接池,除非你 消耗了所有的数据,或者调用了 Response.close。 文档说关闭响应后Requests应该被“释放回连接池”,但实际上它是被关闭然后再需要时被“重新设置”了,跟不加stream = True参数时,“无缝”重用似乎是不一样的。 那么究竟该怎么做才能做到既不下载相应体,又能重用连接呢?还有关闭请求、关闭连接应该是一回事吧?
查看完整描述

目前暂无任何回答

  • 0 回答
  • 0 关注
  • 1131 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信