为了账号安全,请及时绑定邮箱和手机立即绑定

蜘蛛爬虫的原理和作用?

/ 猿问

蜘蛛爬虫的原理和作用?

米脂 2019-02-15 15:11:07

蜘蛛爬虫的原理和作用


查看完整描述

2 回答

?
婷婷同学_

网络蜘蛛即Web Spider,是一个很形象的名字。把互联网比喻成一个蜘蛛网,那么Spider就是在网上爬来爬去的蜘蛛。
这个条目所描述的内容英文名叫做Web Crawler,这是有正规定义的,参见维基百科。业界内也很少叫蜘蛛的,一般都叫做网络爬虫,Spider只是个别爬虫的名称。建议将词条名称改为网络爬虫
网络蜘蛛是通过网页的链接地址来寻找网页

网络蜘蛛
,从网站某一个页面(通常是首页)开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站,那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。
----这样看来,网络蜘蛛就是一个爬行程序,一个抓取网页的程序。

查看完整回答
反对 回复 2019-03-02

添加回答

回复

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信