超详细robots.txt大全和禁止目录收录及指定页面 - 简书
robots协议文件作用以及写法详解 - 知乎
robots.txt生成器 - robots.txt写法 - robots协议
robots、404与Spider-CSDN博客
什么是robots协议?详解robots.txt文件的存放位置、格式、使用技巧...
什么是Robots.txt?robots文件生成工具以及Robots.txt的规范写法
Robots.txt 指南:SEO 最佳实践
Robots.txt 和 SEO:完整指南
seo基本知识---robots文件及蜘蛛-CSDN博客
【爬虫系列】robots.txt由来原理场景用法示例详解 - 知乎