爬取简书robots.txt时遇到的HTTP Error 403: Forbidden问题 - 简书
超详细robots.txt大全和禁止目录收录及指定页面 - 简书
robots文件生成,robots.txt文件生成- 站长工具
robots文件生成 在线网站robots.txt文件生成器 iP138在线工具
网络爬虫与信息提取_爬虫for i in range-CSDN博客
robots协议文件作用以及写法详解 - 知乎
SEOer必学网站分析神器(第三节课)-腾讯云开发者社区-腾讯云
robots.txt详解 | LongSheng
什么是robots协议?详解robots.txt文件的存放位置、格式、使用技巧...
2013 年 5月 13 日 随笔档案 - 子夏子 - 博客园