NOTE 001 / FEP / ACTIVE INFERENCE

自由能
不是损失函数

把 F 当作训练 loss,会错过它真正的作用:它是一个系统对自身边界的维持。

自由能不是又一个 loss 名字。它描述的是一件更基本的事:一个系统如何同时保持对世界的解释,并维持自己的边界。

在机器学习里,我们习惯把损失函数当成“优化目标”。但 FEP 里的变分自由能有两个部分:准确性(预测有多贴合输入)和复杂度(内部模型离先验有多远)。这两者不是可互相替代的指标,它们共同定义“解释世界”和“保持自己”的张力。

感知是推断

神经元不需要先看到完整世界。它只需要让内部状态对输入做出足够好的解释。自由能下降,意味着解释变好;自由能上升,意味着模型与输入发生了冲突。

行动是实验

如果感知是在改变内部模型,行动就是在改变世界,让世界更符合模型。EFE 不是“奖励最大化”的换皮,它把预期的惊讶与先验目标放在一起。

自由能不是损失函数。它是系统维持自身边界的代价。

在 ADLP 里怎么用

我们不让语言模型去“最小化自由能”。那是把 FEP 当装饰。我们要让内感受信号、预测误差、精度与行动选择进入同一个闭环,并用消融实验检验:去掉精度、去掉稳态、去掉记忆,行为是否变差。

RESEARCH NOTE

如果你把自由能当成一个可以随便调参的 loss,你得到的是另一个神经网络;如果你把它当成维持边界的原则,你才开始问对问题。

ADLP / NOTE 001 / 2026.11

← 返回日志