当前位置: 首页> 主机资讯

搜索引擎的Robots协议

  robots.txt是一种存放于网站根目录下的文本文件,用于告々诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

  rob"otsζ.txtΣ协议并不是一个规范,而只是约定俗成的,↕通常搜索引擎会识别这』个文件,但⿳也有一些特殊情况。

  对于Google来说,使用robots也未必能阻◤止Googшle将网址编入索引,如果有其他网站链接到∏该网页的话,Google依然有可能会对其进行索〣引↔。按照Google的说法,要想彻底阻止网页的内容在GΔoog۩le网页索引中(即使有其◐他网站链接到该网页)出现,需ㄨ要使用noindex元标记或x-robots-tag。例如◆将下面的一行加入到网页的hea◎der┌部分。

  <meta name=&qКuot;googl☏ebot&quo┙t; co』ntent=&qu┊┋ot;noindex">

  如果Google看到某一页上有noindex▲的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到●此页。

  对于百度来说,情况和Googl☼e类似,如果有其他网站链接目标网页,也有可能会被百⊙度☞收录,从百度的说明页面上看,百度并不支持像G∏oogle那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度│┃显示网页快照。▧具体的语句如下。

  <meta name="Baiduspider&quoЯt; con⿰tent☉="noarchive">

  上面这个标记*只是禁止百度显示该网页√的快照,百度会继▀续为网б页建索引,г并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt∈来屏⊕蔽百度→爬虫,但百度依旧收录了ε淘宝网─━的内容,百度≈搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是该页面没有网页快照,因◀此看来,网站只能禁止百度的快照∏,而无法禁止百╠╡⌒度为网页建索引。