超详细robots.txt大全和禁止目录收录及指定页面 - 简书
什么是Robots.txt?robots文件生成工具以及Robots.txt的规范写法
Robots.txt 编写 - SmarTom - 博客园
robots文件生成 在线网站robots.txt文件生成器
如何正确地编写网站的Robots.txt? - 知乎
robots.txt文件应该如何使用?
robots.txt详细介绍-iteye
robots.txt生成器 - robots.txt写法 - robots协议
robots文件生成 在线网站robots.txt文件生成器 iP138在线工具
Robots协议具体解释_51CTO博客_robots协议