什么是搜索引擎蜘蛛?SEO搜索引擎蜘蛛工作原理

  发布时间:2016-05-27 10:15:20   作者:钱伟杰   我要评论
作为一名编辑乃至站长,在关注网站在搜索引擎排名的时候,最重要的就是蜘蛛(spider)。搜索引擎蜘蛛是一个自动抓取互联网上网页内容的程序,每个搜索引擎都有自己的蜘蛛,那么,蜘蛛是怎样在网站上抓取内容的呢?一起来看看它的工作原理吧

作为一名编辑乃至站长,在关注网站在搜索引擎排名的时候,最重要的就是蜘蛛(spider)。搜索引擎蜘蛛是一个自动抓取互联网上网页内容的程序,每个搜索引擎都有自己的蜘蛛,那么,蜘蛛是怎样在网站上抓取内容的呢?一起来看看它的工作原理吧!

SEO是由英文Search Engine Optimization缩写而来,中文意译为“搜索引擎优化”,是指在了解搜索引擎自然排名机制的基础上,对网站进行内部及外部的调整优化,改进网站在搜索引擎中关键词的自然排名,获得更多的展现量,吸引更多目标客户点击访问网站,从而达到网络营销及品牌建设的目标。

什么是搜索引擎蜘蛛?SEO搜索引擎蜘蛛工作原理

作为一个SEO初学者,首先要做的并不是急于学习发外链,静态化,meta设置等,而是去理解SEO的原理以及作用。因此,先给大家讲解一下搜索引擎的原理,帮助大家更好地理解SEO。

今天我主要讲一下网页抓取程序——蜘蛛(Spider),有的地方也叫机器人(robot)。蜘蛛是搜索引擎的一个自动应用程序,它的作用很简单,就是在互联网中浏览信息,然后把这些信息都抓取到搜索引擎的服务器上,再建立索引库等操作。我们可以把蜘蛛当作采集网站内容的工具,因此越是有利于爬取的操作,就越有利于SEO。其实,蜘蛛的工作也挺简单,具体步骤参见下图。

什么是搜索引擎蜘蛛?SEO搜索引擎蜘蛛工作原理

这里提到一点重要的信息:蜘蛛爬取的是网站代码内容,而不是我们看到的显示内容,因此没有文本化直接从数据库中读取的内容,引擎是获取不到的。如:https://x.hs.net/html/apiservice/apilist.html

显示内容:

什么是搜索引擎蜘蛛?SEO搜索引擎蜘蛛工作原理

代码内容:

什么是搜索引擎蜘蛛?SEO搜索引擎蜘蛛工作原理

蜘蛛爬取的是第二个页面,而我们真的是要把这个代码的内容给引擎看吗?显然不会。

下面介绍一下蜘蛛抓取网页的规律:

1、深度优先

搜索引擎蜘蛛在一个页面发现一个链接后顺着这个链接爬下去,然后在下一个页面又发现一个链接,这样一个页面接一个页面,直到抓取全部链接,这就是深度优先抓取策略。这里告诉SEOER们,做好网站内链的重要性,一定要用绝对地址。

2、宽度优先

搜索引擎蜘蛛先把整个页面的链接全部抓取一次,然后再抓取下一个页面的全部链接。宽度优先主要告诉SEOER们,不要把网站的目录设置太多,层次要清楚。

3、权重优先

这个比较好理解,主要是搜索引擎蜘蛛比较喜欢爬取质量好的链接内容。例如网易首页面,蜘蛛经常来,而不是很好的网站,蜘蛛就很少来。权重优先对SEOER的提醒是做质量好的外链很重要。

4、重访抓取

例如,搜索引擎蜘蛛前一天抓取了某网站的页面,而第二天该网站又增加了新的内容,那么搜索引擎蜘蛛就可以再次抓取到新的内容。长此以往,该网站在蜘蛛的“印象”中就很友好了。这个重访抓取策略不仅对SEOER有用,对网站建设也很有用:时时更新网站内容,也能使客户体验提升。

以上介绍了蜘蛛的爬取方式与内容,你应该理解为什么SEOER这么注重代码问题,URL设置,与原创更新了吧,希望这篇文章能帮助各位优化自己的网站,做出受“蜘蛛”欢迎的网站!

相关文章

  • 网站SEO怎么摆脱对搜索引擎的信赖?

    网站SEO怎么摆脱对搜索引擎的信赖?网站不依靠百度是不可能的,但是我们可以尽量的减少对百度的依赖,把营销成本降的更低,下面是我的一些思考和想法,需要的朋友可以参考
    2016-06-12
  • 百度是怎样判断原创文章的

    超过80%的新闻和资讯等都在被人工转载或机器采集,采集过程中,出于无意或有意,导致采集网页内容残缺不全,格式错乱或附加垃圾等问题层出不穷,这已经严重影响了搜索结果
    2016-06-12
  • 网站优化之Google优化与其他搜索引擎的区别分析

    给网站做优化的时候,要明确知道不同的搜索引擎优化之间有哪些区别,今天我们就主要来看看Google优化与其他搜索引擎的区别,详细的教程请看下文详细介绍,需要的朋友可以参
    2016-06-08
  • 让搜索引擎喜欢自己网站的三个理由

    很多朋友发现自己的我那个站没有得到搜索引擎的认可,。收录不高,所以没人看,错了,这是因为你没有给搜索引擎收录自己网页的理由,今天我们就来看看让搜索引擎喜欢自己网
    2016-06-02
  • 百度搜索引擎是怎么抓去页面的?

    百度搜索引擎是怎么抓去页面的?搜索引擎为用户展现的每一条搜索结果,都对应着互联网上的一个页面。这个页面产生需要通过抓取、过滤、建立索引和输出结果,这就代表网页被
    2016-05-31
  • 2016年SEO优化怎么做?搜索引擎排名的八大优化原则汇总

    随着搜索引擎算法的不断改进和用户搜索习惯的变化,如今的页面SEO更复杂了,那么除了传统的页面元素外,页面SEO还应该注意哪些问题呢?本文将提供搜索引擎排名的八大优化原
    2016-05-26
  • 这些SEO优化方法被百度等搜索引擎纳为黑名单

    随着搜索引擎智能化水平的提升,传统的一些SEO优化方法,尤其是曾经辉煌过的优化方法,对于站长朋友们而言,一定要和他们说再见,下面小编为大家汇总被百度等搜索引擎纳为
    2016-05-19
  • 不同的搜索引擎 SEO方面有什么不同?

    SEO的实践特征上来看,只要用心了解SEO的根本远离,做好基础优化;深入了解搜索引擎的算法规则,按部就班地做,即使搜索引擎的平台不同,想要拥有良好的排名也不是一件难事!
    2016-05-17
  • 如何进行网站结构优化?SEO网站结构优化提升搜索引擎友好度的五大技巧

    网站的搜索引擎收录和排名一直是所有Seoer关心的问题,提升网站对搜索引擎的友好度才能从搜索引擎那里得到莫大的好处,而网站结构优化是必不可少的环节,那么如何构架网站
    2016-05-16
  • 搜索引擎怎么用 15个提高Google搜索效率的技巧

    Google目前在中国访问起来并不容易,还是有很多朋友为了更多元化的搜索结果,仍然不遗余力的把它作为常用搜索引擎来使用。不同于我们平常所知道的搜索方法,其实搜索引擎
    2016-05-13

最新评论