1. 如何创建 robots.txt 文件
您可以在任何文本编辑器中创建此文件。该文件应为 ASCII 编码的文本文件，而非 HTML 文件。文件名应使用小写字母。语法 最简单的 robots.txt 文件使用两条规则：User-Agent: 适用下列规则的漫游器Disallow: 要拦截的网页这两行被视为文件中的一个条目。您可根据需要包含任意多个条目。您可在一个条目中包含多个 Disallow 行和多个 User-Agent。应在User-Agent 行中列出什么内容？ user-agent 是特定的搜索引擎漫游器。网络漫游器数据库列出了许多常用漫游器。您可设置应用于特定漫游器的条目（通过列示名称）或设置为应用于所有漫游器（通过列示星号）。应用于所有漫游器的条目应与下列条目类似：User-Agent:*Google 使用多种不同漫游器（用户代理）。用于网络搜索的漫游器是 Googlebot。Googlebot-Mobile 和 Googlebot-Image 等其他漫游器遵循您为 Googlebot 设置的规则，您还可为这些特定漫游器设置附加规则。应在Disallow 行中列出什么内容？ Disallow 行列出了您要拦截的网页。您可列出具体网址或网址模式。条目应以正斜杠开头 (/) 开头。要拦截整个网站，请使用正斜扛。 Disallow:/要拦截目录及其中的所有内容，请在目录名后添加正斜扛。 Disallow:/private_directory/要拦截网页，请列出该网页。 Disallow:/private_file.html网址区分大小写。
2. 如何书写网站的robots文件
robots 是站点与 spider 沟通的重要渠道，站点通过 robots 文件声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。请注意，仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用 robots.txt 文件。如果您希望搜索引擎收录网站上所有内容，请勿建立 robots.txt 文件。
robots 文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以 CR,CR/NL, or NL 作为结束符），每一条记录的格式如下所示：<field>:<optional space><value><optionalspace>
在该文件中可以使用#进行注解，具体使用方法和 UNIX 中的惯例一样。该文件中的记录通常以一行或多行 User-agent 开始，后面加上若干 Disallow 和 Allow 行 , 详细情况如下：
User-agent:该项的值用于描述搜索引擎 robot 的名字。在 "robots.txt" 文件中，如果有多条- User-agent 记录说明有多个 robot 会受到 "robots.txt" 的限制，对该文件来说，至少要有一条 User-agent 记录。如果该项的值设为，则对任何 robot 均有效，在 "robots.txt" 文件中，"User-agent:" 这样的记录只能有一条。如果在 "robots.txt" 文件中，加入 "User-agent:SomeBot" 和若干 Disallow、Allow 行，那么名为 "SomeBot" 只受到 "User-agent:SomeBot" 后面的 Disallow 和 Allow 行的限制。
Disallow:该项的值用于描述不希望被访问的一组 URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以 Disallow 项的值开头的 URL 不会被 robot 访问。例如 "Disallow:/help" 禁止 robot 访问 /help.html、/helpabc.html、/help/index.html，而 "Disallow:/help/" 则允许 robot 访问 /help.html、/helpabc.html，不能访问 /help/index.html。"Disallow:" 说明允许 robot 访问该网站的所有 url，在 "/robots.txt" 文件中，至少要有一条 Disallow 记录。如果 "/robots.txt" 不存在或者为空文件，则对于所有的搜索引擎 robot，该网站都是开放的。
Allow:该项的值用于描述希望被访问的一组 URL，与 Disallow 项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以 Allow 项的值开头的 URL 是允许 robot 访问的。例如 "Allow:/hi" 允许 robot 访问 /hi.htm、/hicom.html、/hi/com.html。一个网站的所有 URL 默认是 Allow 的，所以 Allow 通常与 Disallow 搭配使用，实现允许访问一部分网页同时禁止访问其它所有 URL 的功能。
使用 "*"and"$"：Baispider 支持使用通配符 "" 和 "$" 来模糊匹配 url。 "" 匹配 0 或多个任意字符 "$" 匹配行结束符。
最后需要说明的是：网络会严格遵守 robots 的相关协议，请注意区分您不想被抓取或收录的目录的大小写，网络会对 robots 中所写的文件和您不想被抓取和收录的目录做精确匹配，否则 robots 协议无法生效。
3. 百度站长工具里面没有 生成Robots.txt这个工具，到哪里找，或一样功能的地方谢谢
您好，在这几个地方都可以生成，生成之后上传到网站根目录就可以了。
https://www..com/s?ie=utf-8&f=3&rsv_bp=1&tn=&wd=robots%E7%94%9F%E6%88%90&oq=robots&rsv_pq=c6d4a33c000251ee&rsv_t=6f0c%%2BsGsEUJshvoBKQ&rqlang=cn&rsv_enter=1&rsv_sug3=1&rsv_sug1=1&rsv_sug7=100&rsv_sug2=1&prefixsug=robots&rsp=8&rsv_sug4=2665
4. 怎么制作和使用sitemap.xml，robots.txt
制作和使用sitemap.xml，robots.txt 可以利用网站地图在线生产工具，或者自己写，这个比较麻烦！需要懂html技术！
5. 如何正确制作和使用robots文件
1、如果你的站点对所有搜索引擎公开，则不用做这个文件或者robots.txt为空就行。
2、必须命名为：robots.txt，都是小写，robot后面加"s"。
3、robots.txt必须放置在一个站点的根目录下。
4、一般情况下，robots.txt里只写着两个函数：User-agent和 Disallow。
5、有几个禁止，就得有几个Disallow函数，并分行描述。
6、至少要有一个Disallow函数，如果都允许收录，则写: Disallow: ，如果都不允许收录，则写:Disallow: / （注：只是差一个斜杆）。
6. 什么网站可以生成robots.txt
robot.txt可以自己做，也可以用软件生成，然后上传到网站根目录的，是一个给抓取蜘蛛看的关于你网站哪些内容可以看哪些不可以看的文件，一般来说我是自己写，我之前用软件（sitemapX）做sitemap文件的时候是可以生成robots文件的~还有一些查询网站都可以自助生成的~~
7. robots是什么以及如何正确建立robots文件
robots是什么？
robots是一个协议，是建立在网站根目录下的一个以（robots.txt）结尾的文本文件，对搜索引擎蜘蛛的一种限制指令。是蜘蛛程序爬行网站第一个要访问抓取的页面，网站可以通过robots协议来告诉搜索引擎蜘蛛程序哪些页面可以抓取，哪些页面不可以抓取。
robots协议用来告诉搜索引擎哪些页面能被抓取，哪些页面是不能被抓取的，我们通常用 robots来屏蔽网站的一些垃圾页面、重复页面、死链接通、动态和静态多路径的同一页面。这么做的好处是可以节省一部分的服务器带宽，同时也方便蜘蛛程序更好的来抓取网站内容。其实robots就像一个指路标一样，引导着蜘蛛程序爬取网站页面。
robots符号介绍
首先我们先来认识一下书写robots时常用到的几个字符
User-agent:写义搜索引擎类型，这里的首字母要大写U，结尾冒号:后要加一个空格键，如 User-agent:* 不带空格，User-agent: * 带空格的。
* 这里的星号是一个通配符，匹配0或多个任意字符
$ 是一个结束符
Disallow:表示不希望被访问的目录或URL
Allow:表示希望被访问的目录或URL
robots的确定写法
写法一：禁止所有搜索引擎来抓取网站任何页面
User-agent: *（此处*号也可以写成禁止某个蜘蛛抓取，例如网络的 User-agent: Baispider）
Disallow: /
写法二：允许所有搜索引擎抓取网站任何页面
User-agent: *
Allow: /
当然如果允许的话也可以写个空的robots.txt放网站根目录
其它写法举例:
User-agent: * 代表所有搜索引擎
Disallow: /abc/ 表示禁止抓取abc目录下的目录
Disallow: /abc/*.html 表示禁止抓取此目录下所有以 .html为后缀的URL包含子目录
Disallow: /*？*禁止抓取所有带？问号的URL
Disallow: /*jpg$ 禁止所有以.jpg结尾格式的图片
Disallow: /ab 禁止抓取所有以ab 开头的文件
Disallow: /ab/a.html 禁止抓取ab文件夹下面的a.html 文件
Allow: /ABC/ 表示允许抓取abc目录下的目录
网络robots的写法
淘宝robots的写法
最后附上我自己网站robots的写法
好了就先举例这些，最后让提醒各位站长，慎重写robots协议，确保网站上线之前解决所有问题后，建立robots.txt文本到根目录。
85、Mr宋 94-80 作业
8. 如何制作网站地图并规范robots协议内容
网站地图的制作在seo优化中也是占据很重要一部分的，网站地图制作好了可以更加有利于蜘蛛对我们网站信息的检索与抓取，他会对网页信息进行方向引导，给搜索引擎蜘蛛的爬行提供一个路径，快速准确的抓取网站内容。
我们可以利用小爬虫工具、爱站工具等来生成网站地图。我们首先打开爱站工具包，选择网站地图，然后左侧选择添加网站，将网址输入后选择xml选项，将里面的顶部的所有文件选项勾选之后点击抓爬，完成后生成xml文件，最后将生成之后的sitemap后缀为html、xml、txt的文件上传到网站后台的根目录中即可。这样，只要有用户进入就会抓取了。
robots协议又是什么？该如何书写它呢？robot协议就是给搜索引擎蜘蛛的一个规定，我们利用这个文件来限制搜索引擎的抓取范围，尊重信息提供者意愿并维护其隐私权，保护我们的隐私不被搜索引擎抓取的一份内容。这个有我们自己进行编辑规定。
robots协议的编辑会用到三个标签：1、User-agent: 蜘蛛名称（这里个User-agent 指定搜索引擎蜘蛛名称）2、Disallow: 内容名称（代表要禁止抓取的内容）3、Allow:内容名称（代表允许抓取的内容）。这些标签后书写的就是协议的内容，还会用到3个通配符来编辑："*"表示涵盖所有搜索引擎；"$"表示以某字符串结尾；"/"表示当前目录下的所有内容。当编辑完协议内容后可在最后添加“Sitemap：网站域名/sitemap.xml”，用地图让蜘蛛更快速的抵达我们的网站。
SEO的日常工作比较细致，查看我们网站的日志也是需要关注的。从网站后台空间找到文件管理，然后打开logs文件，将最新的日志文件载到桌面，然后使用光年日志分析系统等工具对其进行分析，可以看到蜘蛛爬行过的记录以及一些问题，需要及时查看并解决掉。
9. 如何正确写网站的robots文件
正确的书写robots文件，首先你要知其意，这是在搜外6系统看的，你可以参考一下：
10. robots文件生成工具怎么用
留空就行了，robots文件自己写就行了，没必要用工具吧，sitemap也要做么，sitemapx可以爬取你网站的页面