robots.txt文件解读 - 简书
Robots.txt详解 - 简书
robots.txt详解[通俗易懂] - GaoYanbing - 博客园
Robots协议-CSDN博客
robots.txt文件概述-CSDN博客
搜索引擎蜘蛛及网站robots.txt文件详解[转载] - 珍惜一切 - 博客园
robots.txt文件应该如何使用?
什么是robots协议?详解robots.txt文件的存放位置、格式、使用技巧...
Robots.txt协议的写法 - 知乎