卢松松博客

搜索引擎的Robots规则

 人参与 | 时间:2012年09月01日 10:45

robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

<meta name="googlebot" content="noindex">

如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

搜索引擎的Robots规则 好文分享

对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

 <meta name="Baiduspider" content="noarchive">

上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

本文来源:月光博客

顶: 0踩: 0

来源:,欢迎分享,(QQ/微信:13340454)

原文地址:http://lusongsong.com/info/post/236.html

必填

选填

选填

◎已有 30 人评论,微信搜:QQ13340454

1楼美女高清  2014-02-14 23:37:06
又涨姿势了
顶: 0踩: 0 回复
2楼淘金阁  2014-01-16 16:35:28
搜狗的是gou娘,他当然不干了。哈哈
顶: 0踩: 0 回复
3楼启趣网  2013-12-22 09:47:14
呵呵,你这个形容真贴切
顶: 0踩: 0 回复
4楼囧事  2013-12-19 11:57:52
不明觉厉
顶: 0踩: 0 回复
5楼给老人买什么礼物好  2013-05-01 20:59:00
笑尿。
顶: 0踩: 0 回复
6楼伊顿ups电源  2012-06-29 13:39:10
呵呵第一次听到这个说法
顶: 0踩: 0 回复
7楼诸葛诺博客  2012-04-01 17:27:23
搜狗好寂寞 哈哈 挥一挥衣袖 不带走半片云彩!
顶: 0踩: 0 回复
8楼专注基础优化  2015-11-22 22:49:52
基础优化很重要,robots也很重要,属于基础优化的范畴的。
顶: 0踩: 0 回复
9楼持之以恒  2015-03-01 10:27:26
还在研究中……
顶: 0踩: 0 回复
10楼21氪  2013-06-09 17:04:50
robots.txt文件一定需要吗
顶: 0踩: 0 回复
11楼小学科学论文  2013-02-06 18:56:18
robots.txt协议也算是门学问
一直学习中
顶: 0踩: 0 回复
12楼卢松松  2012-09-01 17:02:10
抱歉哈,已经修正了
顶: 0踩: 0 回复
13楼杨飞博客  2012-09-01 13:00:20
没有不行的,放个空的也行
顶: 0踩: 0 回复
14楼564b博客  2012-11-16 18:05:13
欢迎google收录。
顶: 0踩: 0 回复
15楼国人SEO  2012-11-16 09:12:49
对于企业站和博客及小型网站来说,这个没有太大的区别
顶: 0踩: 0 回复
16楼广州金蝶软件销售服务中心  2012-09-02 22:51:59
这样比较的话 好像Google 更胜一筹咧
顶: 0踩: 0 回复
17楼秦晚词  2012-09-02 13:10:34
一般都做这个文件,但具体哪一内页还真没做过。
顶: 0踩: 0 回复
18楼第一站网站建设论坛  2012-09-02 06:29:33
放置robots 会给搜索引擎提供方便。
顶: 0踩: 0 回复
19楼泷泽萝拉  2012-09-02 01:18:24
正常都会放这个文件的。。
顶: 0踩: 0 回复
20楼博客赚钱  2012-09-02 00:39:40
嗯。。学习了
顶: 0踩: 0 回复
21楼SOYOU  2012-09-01 22:53:03
网站没有这些东西,没事吧
顶: 0踩: 0 回复
22楼西狂博客  2012-09-01 21:53:07
支持月光和卢松松
顶: 0踩: 0 回复
23楼真空包装机  2012-09-01 21:35:30
原来只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。
顶: 0踩: 0 回复
24楼淘宝客博客  2012-09-01 20:40:16
我想我不会把我的后台地址和后台页面 连接到其他的网站吧。
顶: 0踩: 0 回复
25楼邢台seo  2012-09-01 20:39:40
我有很多站也没有robots 看的收录也可以的。
顶: 0踩: 0 回复
26楼闵非凡博客  2012-09-01 17:39:46
原来如此,又学一招,呵呵。
顶: 0踩: 0 回复
27楼穷鬼网赚博客  2012-09-01 17:26:16
合理运用这个文件对网站还是有好处的。
顶: 0踩: 0 回复
28楼唯美女装点评网  2012-09-01 17:19:32
对于我等小站来说,求他们收录还来不及呢,哪敢玩robots.txt啊
顶: 0踩: 0 回复
29楼国药准字补肾壮阳药  2012-09-01 17:13:04
原来只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

顶: 0踩: 0 回复
30楼jiji  2012-09-01 17:06:38
好牛哈。。
顶: 0踩: 0 回复
31楼Android开发  2012-09-01 15:35:44
月光的文章啊,那个“下面的一行”和“具体的语句如下”都没有下文啊,松松忘了加了吧
顶: 0踩: 0 回复
32楼合肥SEO  2012-09-01 15:09:59
我还一直以为设置了robots就彻底解决问题了……
顶: 0踩: 0 回复
33楼完美之窗  2012-09-01 14:47:50
这好在研究这个哈,哈哈
顶: 0踩: 0 回复
34楼嘉兴seo  2012-09-01 13:15:49
个人感觉百度于robots还未完善吧
顶: 0踩: 0 回复
35楼爱上钓鱼网  2012-09-01 12:05:44
设应该是搜索引擎行业的规范吧,站长必须学习!
顶: 0踩: 0 回复
36楼励志文章读后感  2012-09-01 11:52:02
学习一下
顶: 0踩: 0 回复
37楼外星人的博客  2012-09-01 11:48:38
我的站没有robots文件
顶: 0踩: 0 回复
38楼第一站网站建设论坛  2012-09-01 11:15:48
传说中的 板凳呀,学习了。
顶: 0踩: 0 回复
39楼拉力试验机  2012-09-01 10:58:20
倒数第二段提到的语句看不到的呢?
顶: 0踩: 0 回复