🤖 robots.txt 生成器

可视化配置爬虫协议,一键生成规范文件

添加规则后自动生成,可多组 User-agent 叠加

↓ robots.txt


    

🤖 规范输出

按 User-agent 自动分组,注释齐全。

多组规则Crawl-delaySitemap一键下载

💡 使用须知

  • robots.txt 须放在网站根目录,全部小写命名
  • 它只是君子协议,恶意爬虫可能无视规则
  • 私有内容应加权限校验,而非仅靠 Disallow

✨ 绘萤者

以萤火之光,绘万千想象

绘萤者——探索真正的互联网精神,创造更有意义的互联网。