为了账号安全,请及时绑定邮箱和手机立即绑定

Python开发简单爬虫

蚂蚁帅帅 全栈工程师
难度初级
时长 1小时14分
学习人数
综合评分9.67
646人评价 查看评价
9.9 内容实用
9.6 简洁易懂
9.5 逻辑清晰

最新回答 / VDer
在Linux上用PyCharm写了一遍,放到Github上了

最赞回答 / wang4142
导出的out.html页面,浏览器默认打开的是gbk编码,修改下为utf-8编码就好了

最新回答 / UFO2015
# 初始化 class```pyclass UrlManage(object):  def __init__(self):    self.new_urls = set();    self.old_urls = set();  def add_new_url(self, url):    # todo```

最新回答 / UFO2015
```pyexcept Exception as e:  logging.exception(e)  print 'error'```

已采纳回答 / sin丶
下载代码后发现问题还是挺多的,除了那个outputer,在html_parser下data写成date,title也打错了,参数page_url也没设置。html_outputer里,方法output_html没有写进去标题。慢慢改吧。

最赞回答 / 东围居士
mysql也是开源的吖因为mysql相对较慢,大公司对性能要求高,所以更加适合使用redis何必激动

最新回答 / 慕粉3182733
python3里面没有urllib2,只有urllib,跟2的用法不一样。我同时安装了python2和3,在解释2编写的代码的时候用2的解释器,解释3编写的代码的时候用3的解释器。开发环境是pycharm,可以更改settings里面的interpreter。如果是命令行的话可以用py -2或者py -3运行程序。如果环境变量2在前可以省略py -2,3同样。

最新回答 / 否则悲伤从何而来
那你唯一需要修改的就是“然后又随机选一个链接接着爬”,这边的规则应该是你自己想的算法吧建议你写一个方法,把和当前url的关键词按照某种规律,把当前页面的所有url“过滤”成自己需要的有“相关性”URL,就在UrlManger里面的get_new_url下,比如self.new_urls.getMyRulUrl(self.new_urls)

最新回答 / 慕粉3975934
用ctrl+c退出,Python运行比较慢
课程须知
本课程是Python语言开发的高级课程 1、Python编程语法; 2、HTML语言基础知识; 3、正则表达式基础知识;
老师告诉你能学到什么?
1、爬虫技术的含义和存在价值 2、爬虫技术架构 3、组成爬虫的关键模块:URL管理器、HTML下载器和HTML解析器 4、实战抓取百度百科1000个词条页面数据的抓取策略设定、实战代码编写、爬虫实例运行 5、一套极简的可扩展爬虫代码,修改本代码,你就能抓取任何互联网网页!

微信扫码,参与3人拼团

微信客服

购课补贴
联系客服咨询优惠详情

帮助反馈 APP下载

慕课网APP
您的移动学习伙伴

公众号

扫描二维码
关注慕课网微信公众号

友情提示:

您好,此课程属于迁移课程,您已购买该课程,无需重复购买,感谢您对慕课网的支持!

本次提问将花费2个积分

你的积分不足,无法发表

为什么扣积分?

本次提问将花费2个积分

继续发表请点击 "确定"

为什么扣积分?

举报

0/150
提交
取消