爬取简书robots.txt时遇到的HTTP Error 403: Forbidden问题 - 简书
超详细robots.txt大全和禁止目录收录及指定页面 - 简书
2013 年 5月 13 日 随笔档案 - 子夏子 - 博客园
robots.txt详解[通俗易懂] - GaoYanbing - 博客园
seo基本知识---robots文件及蜘蛛-CSDN博客
robots.txt文件在线生成_robots.txt怎么写_网站robots文件生成器...
robots.txt文件概述-CSDN博客
Robots.txt的写法-SEO技术诊断 - 知乎
robots协议文件作用以及写法详解 - 知乎
Help/error - 微博API