做SEO优化的过程中为什么那么注重robots.txt

做SEO优化的过程中，我们也比较注重robots.txt这个文件，下面我们来具体了解一下：

一、robots.txt基本介绍

robots.txr文件是一个纯文本文件，可以告诉蜘蛛哪些页面可以爬取（收录），哪些页面不能爬取。

搜索引擎爬去我们页面的工具叫做搜索引擎机器人【程序robot（又称spider）】，也生动的叫做“蜘蛛”。

二. robots.txt文件放在哪里?

SEO优化蜘蛛在爬去网站页面之前，会先去访问网站根目录下面的一个文件，就是robots.txt。这个文件其实就是给“蜘蛛”的规则，如果没有这个文件，蜘蛛会认为你的网站同意全部抓取网页。如果存在，搜索机器人就会按照该文件中的内容来确定访问的范围。

另外，robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。

举例来说，当robots访问一个网站（比如http://www.seojigou.com）时，首先会检查该网站中是否存在http://www.seojigou.com/robots.txt这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。

三. robots.txt文件的格式

robots.txt文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示：

:。

在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下：

User-agent:
该项的值用于描述搜索引擎robot的名字，在robots.txt文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则该协议对任何机器人均有效，在robots.txt文件中，User-agent：*这样的记录只能有一条。

以上就是关于SEO优化中robots.txt的相关内容介绍，希望对大家有帮助。

成都创新互联科技有限公司主营、网站优化、SEO优化、优化公司、网站SEO、SEO公司、SEO推广、网络推广、网络推广公司、网站推广、网站推广公司、网络营销、网站SEO优化、网站优化公司、SEO优化公司、搜索引擎优化、网站排名、快速排名、关键词排名、关键词优化、网站建设、网站设计、网站制作、网站建设公司、网站设计公司、网站制作公司、整站优化!
本文名称：做SEO优化的过程中为什么那么注重robots.txt
本文URL：http://cqcxhl.com/article/cpohhd.html