AI 分析
痛点:想在本地用自己的数据训练小型定制模型,却不想租GPU、也不想把数据上传到云端。
目标用户:注重隐私的独立开发者、Mac/Linux个人开发者、需要小模型做特定任务的小团队。
证据:I kept wanting small, custom models for my own tasks without renting GPUs or sending my data anywhere. ... Every build is compared against the untrained model and a dead-simple baseline.
变现:开源核心+付费Pro版(多机续训、更大teacher模型、一键导出部署);面向团队的企业私有化授权与托管云服务。
MVP:两周内做出CLI工具:输入一份input/output的CSV,自动完成数据清洗、LoRA微调、与baseline自动对比、导出到Ollama,支持训练中断后跨机续训。
竞品:Unsloth、LLaMA-Factory、Axolotl、Hugging Face AutoTrain、Ollama
摘要:作者发布开源工具streamweights,可在48GB MacBook上通过流式加载运行141GB大模型,用CSV数据在本地训练小模型,并用baseline诚实对比效果(某结构化抽取任务从0%提升到50%全对)。这是一个真实的本地隐私训练痛点,但目前完全免费且竞品众多,尚未看到明确的付费意愿或收入数据。