🤖 robots.txt 生成器
可视化配置爬虫协议,一键生成规范文件
User-agent
* (所有爬虫)
Googlebot
Bingbot
Baiduspider
Sogou spider
YisouSpider(神马)
Bytespider(字节)
自定义…
规则类型
Disallow(禁止)
Allow(允许)
路径(如 /admin/ 或 /*.pdf$)
Crawl-delay(秒,0 为不加)
Sitemap 地址
➕ 添加规则
复制 robots.txt
下载文件
清空全部
添加规则后自动生成,可多组 User-agent 叠加
↓ robots.txt
🤖 规范输出
按 User-agent 自动分组,注释齐全。
多组规则
Crawl-delay
Sitemap
一键下载
💡 使用须知
robots.txt 须放在网站根目录,全部小写命名
它只是君子协议,恶意爬虫可能无视规则
私有内容应加权限校验,而非仅靠 Disallow
✨ 绘萤者
以萤火之光,绘万千想象
完全免费
开源精神
极客风范
协作共创
绘萤者——探索真正的互联网精神,创造更有意义的互联网。