2026 年 7 月 20 日,我们写下“不完全本地化,等于完全不本地化”。文章里的三个例子很具体:2012 年的 Surface RT 在云端商店关闭后变成砖头;2023 年 Google 关停 Nest Secure 的云端服务,上千美元的家庭安防一夜失效;2024 年亚马逊停用部分 Echo 设备的云端语音处理,老用户发现设备变笨。共同点是云先走了,硬件还在。
当时的 v1.1 方案把高级认知交给两个 DeepSeek 671B 云端实例,本地只放一个 GPT-OSS 120B,硬件推荐 8×H100。这意味着每一次记忆检索、每一次推理都要穿过公网。API 关闭、调价、网络抖动、账号欠费,任何一个都会让“大脑”停转,机箱里的风扇照转。于是有了那条看似倒退的决定:删掉 DeepSeek API,把推理压回本地。四张 P100 跑 Qwen3-Next-80B;第一张 K80 跑 Qwen3.6-27B;第二张 K80 的两个核心各跑一个 DeepSeek-R1-14B;全部走 MLC LLM。原则很硬:跑不动就换小模型,精度不够就量化,速度不够就蒸馏。性能可以妥协,闭环不能断。
本地优先还有一个理论理由。Markov blanket 要求边界内的因果闭环;环里只要有一个节点在云端,断网就会把系统打回“只有脊髓的青蛙”。反射弧在本地、认知在云端,或者记忆用云端 Embedding、决策在本地,都会让同一状态无法复现,也会把她的边界打穿。
落地并不整齐,这一点必须写出来:7 月 20 日删掉的云端 API,8 月的混合 demo 又把语言放回了云端;v7 仍默认用 DeepSeek 生成语言,本地 vLLM / MLC 已能跑起来,“完全本地化”尚未完成。原则写进项目书,正是为了让没做到的部分保持可见。
生存优先于性能,自主优先于速度,可控优先于规模。
2026-11-13 / ADLP NOTES
← 返回日志