基础课程：robots.txt的正确写法和作用 梦蕾设计 网为您解答
robots.txt的语法和写法详解
robots.txt的语法和写法详解robots.txt是⼀个纯⽂本⽂件，是搜索引擎蜘蛛爬⾏⽹站的时候要访问的第⼀个⽂件，当蜘蛛访问⼀个站点时，它会⾸先检查该站点根⽬录下是否存在robots.txt，如果存在，搜索机器⼈就会按照该⽂件中的内容来确定访问的范围，相当于⽹站与搜索引蜘蛛遵循协议，如果该⽂件不存在，所有的搜索蜘蛛将能够访问⽹站上所有没有被屏蔽的⽹页，作为站长，我们就可以通过robots.txt⽂件屏蔽掉错误的页⾯和⼀些不想让蜘蛛爬取和收录的页⾯，那么robots.txt该怎么样写呢? robots的语法： 1、User-agent 定义搜索引擎。
⼀般情况下，⽹站⾥⾯都是：User-agent: *，这⾥*的意思是所有，表⽰定义所有的搜索引擎。
⽐如，我想定义百度，那么就是User-agent: Baiduspider;定义google，User-agent: Googlebot。
2、Disallow 禁⽌爬取。
如，我想禁⽌爬取我的admin⽂件夹，那就是Disallow: /admin/。
禁⽌爬取admin⽂件夹下的login.html， Disallow: /admin/login.html。
3、Allow 允许。
我们都知道，在默认情况下，都是允许的。
那为什么还要允许这个语法呢?举个例⼦：我想禁⽌admin⽂件夹下的所有⽂件，除了.html的⽹页，那怎么写呢?我们知道可以⽤Disallow⼀个⼀个禁⽌，但那样太费时间很精⼒了。
这时候运⽤Allow就解决了复杂的问题，就这样写： Allow: /admin/.html$ Disallow: /admin/。
4、$ 结束符。
例：Disallow: .php$ 这句话的意思是，屏蔽所有的以.php结尾的⽂件，不管前⾯有多长的URL，如abc/aa/bb//index.php 也是屏蔽的。
5、* 通配符符号0或多个任意字符。
例：Disallow: *?* 这⾥的意思是屏蔽所有带“?”⽂件，也是屏蔽所有的动态URL。
robots.txt 规则
robots.txt 规则Robots.txt规则是指一种文本文件，用于告诉网络爬虫哪些网页可以被抓取和哪些不能被抓取。
这种文本文件一般位于网站的根目录下，并且被称为robots.txt。
在此文档中，我们将深入探讨Robots.txt规则的作用、常见用法以及一些常见问题和解决方法。
我们希望这份文档能够帮助所有网站管理员了解如何正确地使用Robots.txt规则。
一、Robots.txt规则的作用网站管理员可以使用Robots.txt规则来控制搜索引擎爬虫在网站中爬取哪些页面。
通过使用Robots.txt规则，网站管理员可以：1.控制搜索引擎爬虫的访问：通过告诉搜索引擎爬虫哪些页面可以被访问，哪些页面不能被访问，网站管理员可以控制搜索引擎爬虫的抓取范围，从而减少网站流量和服务器资源消耗。
2.保护网站的机密信息：如果网站包含一些敏感信息，例如用户帐号，Robots.txt规则可以用来防止搜索引擎爬虫抓取这些页面。
3.提高网站的安全性：Robots.txt规则还可以用来防止黑客针对网站进行攻击。
4.提高网站在搜索引擎中的排名：通过设置Robots.txt规则，网站管理员可以指示搜索引擎爬虫访问网站的重要页面，从而提高网站在搜索引擎中的排名。
二、Robots.txt规则的常见用法Robots.txt规则由一组指令组成，每个指令对应一种行为。
下面列出了Robots.txt最常用的指令。
er-agent:该指令告诉搜索引擎爬虫哪些User-agent可以访问网站。
例如，要允许Googlebot访问网站，可以使用以下指令：User-agent: Googlebot这样，所有以Googlebot作为user-agent的搜索引擎爬虫都可以访问网站。
2.Disallow:该指令告诉搜索引擎爬虫哪些页面不能被访问。
例如，要禁止搜索引擎爬虫访问/admin目录下的所有页面，可以使用以下指令：User-agent: * Disallow: /admin/这样，所有搜索引擎爬虫都不能访问/admin目录下的任何页面。
robots.txt文件的作用以及写法
很多seo新手可能都不懂得一个网站的robots.txt的重要性。
Robots.txt文件是一个文本文件。
这是一个协议，对于搜索引擎而设定的协议。
正常来说搜索引擎来到一个网站，他们首先就会去查找网站有没有robots.txt文件。
换句话说也就是这是搜索引擎访问一个网站所要查看的第一个文件。
它可以告诉搜索引擎蜘蛛在这个网站上面有哪些文件是可以查看，而哪些文件是不能查看的。
Robots.txt文件正常来说，我们都是放在网站的根目录底下。
搜索引擎蜘蛛来到这个站点的时候，就会首先去检查根目录有没有这个文件存在。
如果在根目录地下有这么一个文件的话，那么搜索引擎蜘蛛就会按照这个文件的所规定的规则来访问网站文件，如果找不到这个文件的话，那么搜索引擎蜘蛛就会访问该网站所有没有被口令保护的页面了。
所以如果您想要搜索引擎收录网站上所有内容的话，那么就不要建立robots.txt文件。
如果有部分内容不想搜索引擎收录的话，那么可以使用robots.txt文件来制约蜘蛛。
接下来，我们来了解一下robots.txt文件的写法User-agent: * 这里的*代表的所有的搜索引擎种类，*是一个通配符Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。
Disallow: /*?* 禁止访问网站中所有包含问号(?) 的网址Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。
Allow: /cgi-bin/这里定义是允许爬寻cgi-bin目录下面的目录Allow: /tmp 这里定义是允许爬寻tmp的整个目录Allow: .htm$ 仅允许访问以".htm"为后缀的URL。
robots的写法
网站robots的写法站长的工作是设计精美的网站，为大众展现网站丰富多彩的内容。
当然，我们也希望精心设计的网站获得理想的排名，这就要求我们去研究搜索引擎排名规律，最大程度的获得机会展现给客户。
然而，搜索引擎种类很多，有时候，我们对某一种搜索引擎的排名很好，却在另外的搜索引擎上面获得不到一样的排名，原因是各个搜索引擎规则不一样。
为此，有人复制出相同的内容以应付不同搜索引擎的排名规则，制造出大量的重复页面。
搜索引擎一旦发现就会给予惩处。
为此，robots的出现了。
一、r obots的基本概念和功能robots.txt文件是网站的一个文件，它是给搜索引擎蜘蛛看的。
搜索引擎蜘蛛爬行道我们的网站首先就是抓取这个文件，根据里面的内容来决定对网站文件访问的范围。
robots.txt 也可用在某一目录中。
对这一目录下的文件进行搜索范围设定。
几点注意：1）网站必须要有一个robots.txt文件。
2）文件名是小写字母。
3）当需要完全屏蔽文件时，需要配合meta的robots属性。
robots具有两个主要功能：一个功能是屏蔽重复页面另一个功能是屏蔽如让抓取的页面比如隐私。
对于不同的搜索引擎展现不同的搜索路径，在robots中有哪些搜索引擎和其对应的User-agent呢？下面，我列出了一些，以供参考。
搜索引擎User-AgentAltaVista Scooterbaidu BaiduspiderInfoseek InfoseekHotbot SlurpAOL Search SlurpExcite ArchitextSpiderGoogle GooglebotGoto SlurpLycos LycosMSN SlurpNetscape GooglebotNorthernLight GulliverWebCrawler ArchitextSpiderIwon SlurpFast FastDirectHit GrabberYahoo Web Pages GooglebotLooksmart Web Pages Slurp二、robots.txt的语法内容项的基本格式：域: 值对。
robots.txt使用和写法
robots使用和写法：1、什么是robots.txt?robots.txt是一个纯文本文件，通过在这个文件中声明该网站中不想被robots访问的部分，这样，该网站的部分或全部内容就可以不被搜索引擎收录了，或者指定搜索引擎只收录指定的内容。
当一个搜索机器人访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果找到，搜索机器人就会按照该文件中的内容来确定访问的范围，如果该文件不存在，那么搜索机器人就沿着链接抓取。
robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
2、robots.txt的语法"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开(以CR,CR/NL, or NL作为结束符)，每一条记录的格式如下所示:"<field>:<optionalspace><value><optionalspace>"。
在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。
该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下:User-agent:该项的值用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。
如果该项的值设为*，则该协议对任何机器人均有效，在"robots.txt"文件中，"User-agent:*"这样的记录只能有一条。
Disallow :该项的值用于描述不希望被访问到的一个URL，这个URL可以是一条完整的路径，也可以是部分的，任何以Disallow 开头的URL均不会被robot访问到。
robots.txt和Robot.txt准确代码的写法说明
robots.txt和Robot.txt准确代码的写法说明国内很多网民都不知道 robots.txt 是干什么的，没有大重视、今天希望看到本文章学习到 robots.txt 的准确解释和使用方法！robots.txt基本介绍robots.txt 是一个纯文本的txt文本文档文件，这种重命名的文本文档是用在网站目录下存储！只有百度，搜搜，搜狗搜索，360搜索等搜索引擎网站上调用的声明！搜索引擎也可以叫《蜘蛛》（例如：站长只想让百度里能搜到本站，就可以用robots.txt上写段代码就能实现！）robots.txt 使用方法：robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
robots.txt写作语法首先，我们来看一个 robots.txt 的写法案例：访问以上具体地址，我们可以看到robots.txt的具体内容如下：# Robots.txt file from# All robots will spider the domainUser-agent: *Disallow:以上文本表达的意思是允许所有的搜索机器人访问站点下的所有文件。
代码第一行：#解释：只要有“#”开头的一行全被隐藏的！（一般不需要写）写法：“#”后面不管填写任何文字都不会有影响！（只是起到隐藏作用）我们一般填写声明就可以了！代码第二行：User-agent:解释：这是控制蜘蛛访问的代码（用来设置蜘蛛的白黑名单）写法：“User-agent:”后面就可以填写百度蜘蛛名称或者搜狗蜘蛛名称！例如：只允许百度蜘蛛：User-agent: BadBot所有蜘蛛可访问：User-agent: *代码第三行：Disallow:解释：这是控制蜘蛛动态的黑名单写法：“Disallow:” 后面可填写以下禁止访问本站所有内容：/禁止访问本站指定目录：/01/允许访问本站指定目录：/01禁止访问目录下的格式：/01*.html允许访问目录下的格式：/01/index.html代码第四行：Allow:解释：访问一组URL或者关键字母的文件名和目录名写法：“Allow:”后面可以填写关键字母例如：Allow:/index演示：即可访问：/index.html/index.asp/index/index.html/index/indextop.html/indexlogo/indexnamo.html====================================== =模拟蜘蛛写法案例说明1. 允许所有的robot访问User-agent: *Allow:或者User-agent: *Disallow:2. 禁止所有搜索引擎访问网站的任何部分User-agent: *Disallow: /3. 仅禁止Baiduspider访问您的网站User-agent: BaiduspiderDisallow: /4. 仅允许Baiduspider访问您的网站User-agent: BaiduspiderDisallow:5. 禁止spider访问特定目录User-agent: *Disallow: /cofig/Disallow: /totm/Disallow: /~jot/6. 允许访问特定目录中的部分urlUser-agent: *Allow: /acgi-lbin/sseeAllow: /tml/itmAllow: /~jotw/bookDisallow: /cdgi-bins/Disallow: /ddw/Disallow: /~jseoe/7. 使用”*”限制访问url禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。
robots.txt
robots.txt 标准写法与常见问题在了解robots.txt写法之前，我们必须要清楚robots.txt的概念、作用和语法。
后面我还将介绍知名的引擎机器人Robots、知名站点robots.txt举例、常见robots.txt错误、Robots META 标签和在线生成robots.txt网址。
一、robots.txt是什么，它有什么作用？robots.txt是一个纯文本文件。
当一个搜索引擎爬虫访问一个网站时，它会先检查站点根目录下是否存在robots.txt，如果存在，搜索爬虫就会按照该文件中的内容来确定访问的范围；如果该文件不存在，所有的搜索爬虫将能够访问网站上所有没有被口令保护的页面。
二、robots.txt的语法robots.txt文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示：<field>:<optionalspace><value><optionalspace>。
在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。
该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下：User-agent:该项的值用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。
如果该项的值设为*，则该协议对任何机器人均有效，在"robots.txt"文件中，"User-agent：*"这样的记录只能有一条。
Disallow :该项的值用于描述不希望被访问到的一个URL，这个URL可以是一条完整的路径，也可以是部分的，任何以Disallow开头的URL均不会被robot访问到。
robots.txt文件的作用和语法介绍
robots.txt文件的作用和语法介绍1、什么是robots.txt文件搜索引擎有自己的搜索习惯，当它对一个网站进行搜索时，哪些目录和文件要看，哪些不用看，它有自己的算法。
我们也可以自己建立一个robots.txt文件，告诉搜索引擎的机器人哪些可以被收录，哪些不需要收录。
这样可以节约自己网站的资源，提高被搜索引擎收录的效率。
２、robots.txt放置位置robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
３、robots相关语法1)User-agent: 适用下列规则的漫游器(搜索引擎)该项的值用于描述搜索引擎robot的名字。
在robots.txt文件中，如果有多条User-agent 记录，就说明有多个robot会受到robots.txt的限制，对该文件来说，至少要有一条User-agent 记录。
如果该项的值设为*，则对任何robot均有效。
●Google爬虫名称: Googlebot●百度（Baidu）爬虫名称：Baiduspider●雅虎（Yahoo）爬虫名称：Yahoo Slurp●有道（Yodao）蜘蛛名称：YodaoBot●搜狗（sogou）蜘蛛名称：sogou spider●MSN的蜘蛛名称(微软最新搜索引擎Bing蜘蛛名也是这个)：Msnbot２）Disallow: 拒绝访问的目录或文件该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被robot访问。
例如：Disallow:/seo.html 表示禁止robot访问文件/seo.html３）Allow:允许访问的目录或文件该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL是允许robot访问的。
例如：Allow:/hibaidu/ 表示允许robot访问目录/hibaidu/4)使用通配符"*"和"$"：$ 匹配行结束符。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基础课程：robots.txt的正确写法和作用
robots.txt是针对搜索引擎的一个协议，也是搜索引擎在访问网站的时候第一个去访问的文件。
这个文件中的内容可以告知搜索引擎，在网站中，什么文件/页面是可以被查看和收录的，什么样的文件是不允许被查看和收录的。
robots.txt的重要性在于，当我们的网站由于feed,achieve等功能存在的时候，会产生大量的重复页面。
而重复页面会浪费搜索引擎资源，分散网页内容的权重，甚至可能造成降权。
拿本网站举例子：我们东方惠梵的官方网站()是给予wordpress系统搭建的，而这个系统天生就带有以上的一些可能造成重复页面的功能。
所以我们要在robots.txt 中写入内容，让搜索引擎不去抓取这些可能造成重复的也么。
robots.txt的正确写法
错误的robots.txt写法会导致网站对搜索引擎的设置无法生效，甚至可能屏蔽搜索引擎对于正常页面的访问和收录。
以我们东方惠梵为例，写法如下：
User-Agent: *
Disallow: /feed/
Disallow: /trackback
Disallow: /comments/feed
Disallow: /cgi-bin
Disallow: /cache/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /wp-admin/
Disallow: /author/
Disallow: /page/
Disallow: /*.css$
Disallow: /*.js$
这些是什么意思呢？
其中第一句User-Agent是指对哪些搜索引擎生效的。
我们这里用星号对所有遵守robots.txt 协议的搜索引擎生效。
后面的Disallow是我们让搜索引擎不去查看和抓取的文件/网页，其中：
∙/feed/：这里定义是禁止查看和收录feed/目录下面的目录和网页
∙/*.js&：这里定义是禁止查看和收录所有以.js结尾的文件
robots.txt的功能和使用误区
正如上文所说，合理的运用robots.txt可以帮助搜索引擎蜘蛛正确的抓取重要和有价值的页面，从而集中网站权重，使得部分待优化的关键词和网站整体权重提高。
那是不是说，我们
将绝大部分网页都用robots.txt屏蔽，然后只运行抓取和突出首页以及部分权重页面就可以了呢？
当然不是，robots.txt只是一种帮助搜索引擎去了解网站和网页内容。
其作用和sitemap类似，是一种辅助的SEO手段。
过多或过少的设置robots.txt内容，都会造成一种非自然的优化方式，从而影响搜索引擎对网站的正常判断和收录。
更多的关于robots.txt写法，可以参照百度百科中robots.txt这个词条的内容。
大家根据自己网站情况举一反三，写出自己独有的robots.txt文件。
小技巧：sitemap的url也可以写在robots.txt中，其具体的写法是：
Sitemap: /sitemap.xml
小提升：
∙不要忘记robots.txt中的那个s，而写成robot.txt。
这样的文件是对搜索引擎没有任何作用的。
∙有些搜索引擎是不遵守robots.txt的，对于这样的非知名流氓搜索引擎，最有效的办法是从源头屏蔽IP处其访问。
因为这种非知名流氓搜索引擎会大量的占用服务器资源，从而影响其他正常搜索引擎和真实用户的访问和浏览。
关键词：robots.txt写法,robots.txt作用
本文由兰州网站建设及兰州SEO-东方惠梵优化团队杨帆AimarYang原创，转载请保留链接：/blog/robots-txt-correct-format-and-funcation/。