POLICY / LOCAL FIRST

完全本地化是一笔什么债

不完全本地化,等于完全不本地化。这句话听起来像口号,实际是一张硬件、模型、延迟和运维的账单。

如果反射弧在本地、认知在云端,断网时系统就退化成只有脊髓的青蛙。如果记忆用云端 Embedding、决策在本地,同一状态无法复现。

所以项目删掉云端 API,把推理压回本地。代价很具体:需要 8 张 P100、需要量化模型、需要接受更慢的首 token、需要自己处理显存和散热。

性能换生存

本地 70B 量化模型不可能和云端旗舰一样快。我们接受这一点,因为生命周期比单次回答质量更重要。

还没还完的账

Packaging 版仍有云端兜底;V8 的工具链还在 Windows 上;世界审计还有 P0 项。完全本地化是方向,不是已经完成的状态。

2026 / 11 / ADLP NOTES

← 返回日志