Python最火爬虫框架Scrapy入门与实践_技术问答

首页免费课 Python最火爬虫框架Scrapy入门与实践问答

Python最火爬虫框架Scrapy入门与实践

                
                大壮老师
            Python工程师

                    查看讲师更多课程 
                    大壮老师讲师的其他课程
                
移动端Python爬虫实战 数据抓取+数据可视化
实战·中级·1803

                                                                                                                                    ￥348.00
                                            
网络安全高薪人才培养计划-8大网络攻防场景实战
实战·中级·61

                                                                                                                                    ￥499.00
                                            
0基础开发简单爬虫
慕课微课·入门·3187

                                                                                                                                    ￥88.00
                                            
Python爬虫实战数据可视化分析
慕课微课·初级·4276

                                                                                                                                    ￥69.00
                                            
                难度初级
            
                时长 1小时31分
            
                学习人数
            
综合评分9.53
                            55人评价
                        查看评价
                                9.7
                                内容实用
                            
                                9.4
                                简洁易懂
                            
                                9.5
                                逻辑清晰

全部评论问答未解决精华

分页做不了

最赞回答 / qq_执著_2

可以了

yield scrapy.Request("https://movie.douban.com/top250"+next_link, callback=self.parse)

多了括号

1 回答 908 浏览 2-7 spider文件的编写（2）

2018-07-28

老师，我根据你的教程，在阿布云哪里出错了。麻烦看一下。

讲师回答 / 大壮老师

第二章贴的log不全，你把所有的log贴出来

2 回答 1038 浏览

2018-07-27

scrapy crawl douban_spider这个出错

最赞回答 / 灰灰grey

将async随便换一个字段，例如：shark就可以了

6 回答 2030 浏览 2-6 spider文件的编写（1）

2018-07-26

请问我为什么会有这样的问题

讲师回答 / 大壮老师

list_1后面不要写extract_first() ，extract_first()和extract()[1]结果相同，是取列表的第一个元素。list_1后直接写XPATH即可，不需要获取其中元素，在下面的for循环里获取元素。

3 回答 1632 浏览 2-7 spider文件的编写（2）

2018-07-26

感谢！！！！

最赞回答 / 大壮老师

正在备课进阶视频

1 回答 873 浏览 2-11 最后的注意事项

2018-07-24

关于同步的问题

已采纳回答 / 大壮老师

设置pycharm远程同步linux环境

2 回答 1048 浏览 2-4 新建scrapy项目

2018-07-24

errot

+ 我来回答回答最高可+2积分

2 回答 653 浏览 2-9 ip代理中间件编写

2018-07-23

请问：w怎么输入，有什么用呢？为什么有时候是extract（），有时候是extract_first（）？？？

已采纳回答 / _reny

W按键盘上Q的右边E的左边，用处是打字[奸笑.jpg]，这个自己看文件操作吧，extract 就更简单了，看字面意思就行 first是第一条

2 回答 3245 浏览 2-7 spider文件的编写（2）

2018-07-22

老师在浏览器直接写xpath，那个是什么插件啊

已采纳回答 / 大壮老师

XPath Helper

1 回答 1048 浏览 2-6 spider文件的编写（1）

2018-07-22

老师，请问一下，linux下建立的项目，怎么在windows上打开并同步的？咋实现的？

最赞回答 / 岳麓丹枫2013

老师是在centos中创建的scrapy项目，然后直接在windows中打开项目，我没弄明白怎么实现的

4 回答 1470 浏览 2-4 新建scrapy项目

2018-07-22

端口必须是int的实例。

最新回答 / MH__Linux

不要加引号就是int这样

mongo_port = 27017

2 回答 1324 浏览 2-8 保存数据

2018-07-20

scrapy crawl douban_spider报错

已采纳回答 / rookie2maven

self

4 回答 1604 浏览 2-6 spider文件的编写（1）

2018-07-19

在pycharm上 run mian跑不动啊?还有老师前面的w是加在哪的呢

已采纳回答 / 大壮老师

你先用pycharm运行简单的python程序，没问题之后再研究scrapy

3 回答 1132 浏览 2-7 spider文件的编写（2）

2018-07-18

浏览器内使用xpath表达式可以提取出第一个的所有字符串，在scrapy里面什么也提取不出来

已采纳回答 / 大壮老师

print一下网页源码，看看和浏览器渲染的是否相同

1 回答 1792 浏览

2018-07-18

KeyError: 'Spider not found: douban_spider'

最新回答 / Lianger_zhou

这个主要是因为你在加载项目的时候，把上一层目录作为文件夹导入进来了，重新导入，选择具体项目的那个文件夹即可

2 回答 8255 浏览 2-7 spider文件的编写（2）

2018-07-15

首页上一页 14 15 16 17 18 下一页尾页

开始学习

课程须知: 1、具有一定的Python基础 2、具有一定的linux系统管理基础，编译安装软件，yum包管理工具等 3、具有一定的Mongdb数据库管理基础，增删改查

老师告诉你能学到什么？: 1、scrapy框架简介、数据在框架内如何进行流动 2、scrapy框架安装、mongodb数据库安装 3、scrapy抓取项目如何创建 4、scrapy抓取项目如何进行数据解析 5、scrapy抓取项目如何绕过反爬机制抓取数据 6、scrapy抓取项目如何存储数据到不同的格式

微信扫码，参与3人拼团

热搜

最近搜索清空

Python最火爬虫框架Scrapy入门与实践