网络蜘蛛即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直轮回下去，直到把这个网站所有的网页都抓取完为止。假如把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。
对于搜索引擎来说，要抓取互联网上所有的网页几乎是不可能的，从目前宣布的数据来看，容量最大的搜索引擎也不外是抓取了整个网页数目的百分之四十左右。这其中的原因一方面是抓取技术的瓶颈，无法遍历所有的网页，有很多网页无法从其它网页的链接中找到；另一个原因是存储技术和处理技术的题目，假如按照每个页面的均匀大小为20K计算（包含图片），100亿网页的容量是100×2000G字节，即使能够存储，下载也存在题目（按照一台机器每秒下载20K计算，需要340台机器不停的下载一年时间，才能把所有网页下载完毕）。同时，因为数据量太大，在提供搜索时也会有效率方面的影响。因此，很多搜索引擎的网络蜘蛛只是抓取那些重要的网页，而在抓取的时候评价重要性主要的依据是某个网页的链接深度。
在抓取网页的时候，网络蜘蛛一般有两种策略：广度优先和深度优先（如下图所示）。广度优先是指网络蜘蛛会先抓取起始网页中链接的所有网页，然后再选择其中的一个链接网页，继承抓取在此网页中链接的所有网页。这是最常用的方式，由于这个方法可以让网络蜘蛛并行处理，进步其抓取速度。深度优先是指网络蜘蛛会从起始页开始，一个链接一个链接跟踪下去，处理完这条线路之后再转入下一个起始页，继承跟踪链接。这个方法有个长处是网络蜘蛛在设计的时候比较轻易。两种策略的区别，下图的说明会更加明确。
因为不可能抓取所有的网页，有些网络蜘蛛对一些不太重要的网站，设置了访问的层数。例如，在上图中，A为起始网页，属于0层，B、C、D、E、F属于第1层，G、H属于第2层，I属于第3层。假如网络蜘蛛设置的访问层数为2的话，网页I是不会被访问到的。这也让有些网站上一部门网页能够在搜索引擎上搜索到，另外一部门不能被搜索到。 对于网站设计者来说，扁平化的网站结构设计有助于搜索引擎抓取其更多的网页。
网络蜘蛛在访问网站网页的时候，常常会碰到加密数据和网页权限的题目，有些网页是需要会员权限才能访问。当然，网站的所有者可以通过协议让网络蜘蛛不去抓取（下小节会先容），但对于一些出售讲演的网站，他们但愿搜索引擎能搜索到他们的讲演，但又不能完全免费的让搜索者查看，这样就需要给网络蜘蛛提供相应的用户名和密码。网络蜘蛛可以通过所给的权限对这些网页进行网页抓取，从而提供搜索。而当搜索者点击查看该网页的时候，同样需要搜索者提供相应的权限验证。
平顶山网站建设自成立以来，积累了丰富的网站建设经验，赢得了各界的好评，如有需要请联系平顶山网站建设 qq 100929369 咨询热线：0375-4913858 13721871343
