成为 Agent 工程师后，为什么我重读《失控》
三十年前的《失控》里写到的分布式记忆与涌现，今天成了 Agent 长任务 Memory 与 Eval 仍在解决的问题。
很少有书我会读两遍。
凯文·凯利三部曲《失控》《科技想要什么》《必然》
第一次看《失控》还是在上学，在Kindle订阅的知乎周报里，偶然看到这本上世纪90年代写下的所谓科技预言，对书里的网络、蜂群思维、元胞自动机着迷。
那一年，我还看了GEB、有限与无限的游戏，EVA与西部世界。似懂非懂。我会记得斌哥在WIC上说的组织自洽，现在想来真是不可思议。
那一年，距离我认识神经网络还有2年，距离ChatGPT发布还有4年。
2022年11月30日之后的事就是AI发展史的一部分了。
毕业后我一直从事LLM/Agent相关工作，当意识到知识发展 、科技发展有其内在规律后，我会有意识地找各个领域的经典书目来看，比如《人月神话》《系统化思维导论》。
前阵黄佳在讲 Loop Engineering 时把《失控》拿出来举例，我觉得是时候再重读一遍这本大书。
KK 从1990年开始写《失控》，初版完成于1994年。那时候 LeNet 尚且受限于当时的算力和数据规模，没有引起大规模关注。30年，对于一本声称要讨论未来的书来说，这时间很长。
写到这里，总是反复出现编年史一样的叙述感，而这正是再次打开这本书给我最大的感受。
神经网络、Scaling Law 是书中自下而上、分布式、涌现系统的最好例证，这些是30年前写到的全部事物的完美例证。但即使如此，30年前我们所不了解的多数事物，现在仍然显得不明就里。我们不知道如何对演化系统进行编程以使其自行演化/自进化（Recursive Self-Improvement, RSI, 2026.09）。
上个世纪，计算机科学家在讨论，知识如何存入大脑，蜂群思维中的记忆框架是什么样子。
认知科学家道格拉斯·霍夫施塔特说道：「记忆，是高度重建的。在记忆中进行搜取，需要从数目庞大的事件中挑选出什么是重要的，什么是不重要的，强调重要的东西，忽略不重要的东西。」这种选择的过程实际上就是感知。
1970年代，心理学家戴维·马尔提出一种人类小脑的新模型，在这个模型中，记忆是随机地存储在整个神经元网络中的。
1974年，计算机科学家彭蒂·卡内尔瓦提出了类似的数学网络模型。借助这个模型，长字符串的数据能随机地储存在计算机内存中。卡内尔瓦的算法是一种将有限数量的数据点储存进非常巨大的潜在的内存空间的绝妙方法。卡内尔瓦称他的算法为“稀疏分布记忆”(Sparse Distributed Memory, SDM)算法。
失控·认知行为的分散记忆
而这在今天，正是Agent工程中关于长任务memory和Agent Eval仍要解决的问题。
SDM 建立在高维空间的拟正交性上，在高维欧式空间里，随机采样的两个向量几乎必然正交，为 Memory/RAG 的相似性计算提供了理论基石。Dense Embedding 和 BM25 检索构成了事实上的工程实现。这个突破不仅使找到或“重现过去”成为可能，更重要的是当只给定模糊的线索时，也能够从无数的可能性中做出正确的判断。从本质上来说，这通过记忆辨识出了以前从未见过的“现实”。
过去神经网络训练依赖一阶优化，目标函数平滑可导，反向传播能算准梯度，沿着 Loss 下降最快的方向收敛，再加上 Momentum 跳出鞍点。
然而在 Agent Eval 时，Context 和 Trajectory 全部发生在一个离散且极度稀疏的符号空间里，Rubric 天然不可导，即使有专家精标的 golden case，模型也无法沿着梯度滑行，只能在高维离散空间上做无方向的零阶优化。
没有可微性，就只能退回到 Agent-as-a-Judge 然后 MCTS, TPE ….
《失控》仍在继续。