为了账号安全,请及时绑定邮箱和手机立即绑定

selenium + phantomjs +python网络抓取问题

selenium + phantomjs +python网络抓取问题

慕虎7371278 2018-07-05 18:18:13
在自己做的案例中,我提供了200个网站链接,然后进行网络抓取,每抓取一个网站就保存一个值,但是最后总有一个网站没有存值,我的分析可能是因为这个网站一直处于链接状态,有没有什么方法可以判断链接网站的时候,如果超过多少秒还处于链接状态则退出并记录?
查看完整描述

2 回答

?
开心每一天1111

TA贡献1836条经验 获得超13个赞

 from selenium import webdriver  
d= webdriver.PhantomJS()  
d.set_page_load_timeout(10)  
d.set_script_timeout(10)

try:  
    d.get(s)  
except:  
    d.execute_script('window.stop()')


查看完整回答
反对 回复 2018-07-14
  • 2 回答
  • 0 关注
  • 311 浏览

添加回答

举报

0/150
提交
取消
微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号