AI 分析
痛点:站长无法低成本看清并区分来抓自己网站的爬虫、AI 机器人和伪装成 Googlebot 的假冒者,也难以判断谁遵守 robots.txt,从而决定放行还是封禁。
目标用户:个人站长、独立开发者、SEO/内容站运营者、小型 SaaS 团队,以及关心 AI 训练爬虫抓取自己内容的创作者。
证据:"plenty of \"Googlebots\" aren't Google. The zoo verifies them and names the fakes." / "The leaderboard: who eats the most pages, and who obeys robots.txt." / "The Trap Room: a link that robots.txt forbids... The rule-breakers who follow it fall into an endless Labyrinth." / "No IPs stored, no cookies, no signup."
变现:免费基础仪表盘引流,付费解锁高级功能:自定义 robots.txt/llms.txt 规则托管、AI 爬虫流量分析报告、多站点聚合看板、Slack/邮件告警、可嵌入 badge 的进阶版与白标(月费 5-19 美元)。
MVP:两周 MVP:一个轻量 JS 脚本 + 服务端日志解析(或反向代理中间件),只做三件事——按 user agent 分类并做已知 IP 段反向 DNS 校验识别假冒 Googlebot、实时展示爬虫访问排行与 robots.txt 遵守情况、一键生成 robots.txt/llms.txt。先以免费公测收集 50 个站点数据验证留存。
竞品:Cloudflare Bot Management、Dark Visitors、DataDome、Akamai Bot Manager、Fastly Bot Management、BotSpy / Cloudflare AI Crawl Control
摘要:作者在 r/SideProject 发布了 Crawler Zoo(crawlerzoo.com),一个把访问网站的爬虫识别成小生物展示的趣味站点,包含实时入口、爬虫排行榜、机器人档案、假冒 Googlebot 校验、Trap Room 陷阱页、robots.txt/llms.txt 遵守统计和可嵌入 badge,强调不存 IP、不用 cookie、无需注册。帖子本身是求反馈的展示,没有提到收入或任何付费意愿,但背后对应的「AI 爬虫识别与封禁」是已被 Cloudflare、Dark Visitors 等验证的付费市场。对独立开发者而言,技术上两周可做出简化版(识别+排名+robots.txt 生成),但免费替代品多,需要靠细分场景(如 AI 训练爬虫合规审计)找差异。