超详细robots.txt大全和禁止目录收录及指定页面 - 简书
2022 最新Robots.txt文件教程 - 简书
robots协议文件作用以及写法详解 - 知乎
seo基本知识---robots文件及蜘蛛-CSDN博客
robots 屏蔽 SemrushBot_51CTO博客
robots.txt文件配置和使用方法详解 - G-Beniot - 博客园
web.archive.org排除机器人的方法 - 哔哩哔哩
robots.txt详解[通俗易懂] - GaoYanbing - 博客园
robots.txt文件的作用及写法(史上最详细版本) - 百恒网络
8个常见的Robots.txt问题以及如何修复它们__财经头条