reddit · SideProject · 11-06 02:50 58 分 ← 返回列表

72% cheaper Claude Code sessions by letting it forget (and search what it forgot)

I built Smarter Compact to keep long Claude Code sessions cheap without losing anything. It's free and open source (Apache-2.0), runs locally, and doesn't need its own API key. 1. What it does It saves the full conversation in local SQLite, removes older turns from the prompt once you hit your limit (95k on Haiku), and leaves a short note telling Claude where they went. Claude can then search them, run SQL over them (so "how many X" is just a count) or read back a big tool

五维评分

付费意愿

需求真实度

个人可落地

竞争空间

新鲜度

AI 分析

痛点：长会话的 AI 编码代理（Claude Code）会不断触碰上下文上限，导致 token 成本高、压缩会丢信息，用户希望既省钱又不丢失历史上下文。

目标用户：重度使用 Claude Code / Codex / OpenCode 的独立开发者与小型工程团队，尤其是自己承担 API 账单的人。

证据：I built Smarter Compact to keep long Claude Code sessions cheap without losing anything. / "72% cheaper Claude Code sessions" / "Zero LLM summarization calls. The cut also stays the same between requests, so the prompt cache keeps hitting."

变现：开源核心免费，付费点放在团队版与托管服务：多项目/多人的 token 成本看板、成本告警与预算控制、跨机器的共享记忆库、企业私有部署与支持；也可做互补产品（代理成本可观测性 SaaS）而非直接卖这个插件。

MVP：两周做一个『AI 编码代理成本看板』：本地代理拦截请求，记录每次会话的 token 与花费、压缩前后对比与缓存命中率，输出可分享的周报和预算告警，先以开源插件形式获客，再卖团队订阅。

竞品：Claude Code 原生 /compact 与 context editing、claude-mem、mem0 / OpenMemory MCP、Cipher（Byterover）、Anthropic 官方 memory tool

摘要：作者开源了 Smarter Compact（Apache-2.0、本地运行、无需自有 API key），通过把旧对话存入本地 SQLite、从 prompt 中裁掉并留下检索提示，配合 MCP 工具让 Claude 自行搜索/用 SQL 查询，实测让 Claude Code 会话成本降低约 72%，且有约一半提交由 Claude Code 自己写成。它验证了『长会话成本与上下文丢失』是真实痛点，但作品本身免费开源、帖中无任何付费意愿或收入数据，且该赛道已有官方压缩机制与多个记忆类竞品。对独立开发者的机会更偏向互补的『代理成本可观测与预算控制』商业化，而非直接复制此工具。