15|“三思而后行”为什么是一种进化超能力?
基于模型的强化学习和靠试错的学习,差别在哪里?
一、先说结论
班尼特给出的答案是:第三次突破把“无模型强化学习”升级成了“基于模型的强化学习”——动物不再只靠过去真实做过的事,而是用脑中的世界模型,去评估那些“还没发生”的选项。
这个升级带来的,不只是更聪明,而是一整套新行为:规划、延迟满足、目标导向。 你能为了三个月后的体检结果,忍住今晚的炸鸡;能为了三年后的职业目标,接受眼前的低薪;能在落子前先算清三五步。
“三思而后行”不是道德修养,也不是文化驯化的产物。它首先是一种算得更省的计算策略:用头脑里的推演,替代真实世界里的昂贵试错。
代价是:它更耗算力(要不停地“想”),而且一旦模型错了,会错得很自信。
二、我们先理解一个问题
先看一个每个人都经历过的夜晚。
你躺在床上,点外卖的界面上有两个选项:炸鸡,立刻爽;沙拉,明天早上不后悔。 你最终点了沙拉。
问题来了——你为什么能拒绝“立刻爽”?
炸鸡的香味是真实的、当下的;“明天早上不后悔”根本还没发生。你居然为了一个尚未存在、甚至只是想象中的好处,放弃了眼前确确实实的好处。
一只鱼做不到这一点。它只有“此刻看到食物就过去吃”的本能。
于是真正的问题出现了:
三、作者到底提出了什么观点?
班尼特的答案,建立在强化学习里一个经典区分上:无模型(model-free)与基于模型(model-based)。
| 维度 | 无模型强化学习 | 基于模型的强化学习 |
|---|---|---|
| 依据 | 过去的真实经历 | 脑中的世界模型 |
| 核心动作 | 记住“这么做结果好不好” | 推演“如果这么做会怎样” |
| 能否评估没做过的事 | 不能 | 能 |
| 学习效率 | 需要大量真实试错 | 少量经验即可推演 |
| 计算成本 | 低:直接调用习惯 | 高:需要反复“想” |
| 典型行为 | 习惯、条件反射、熟练动作 | 规划、延迟满足、目标导向 |
| 出错方式 | 反应慢、僵化 | 想得太多、模型错了还自信 |
班尼特强调三点。
第一,两者不是“低级和高级”,而是“两种不同的算法”。 无模型让你在熟悉场景下几乎零成本地行动;基于模型让你在陌生场景下也能应对。它们各有各的用武之地。
第二,基于模型的核心动作是“评估未发生的选项”。 这正是延迟满足的秘密:你之所以能忍住炸鸡,是因为你的世界模型里,“未来那个后悔的你”被提前调了出来,和“现在这个满足的你”一起参与了打分。
第三,两者在大脑里同时存在、互相配合。 这不是两套彼此隔离的系统在打架,而更像一个连续谱:习惯打底,规划在需要时接管。
四、把这个观点翻译成人话
场景一:打牌时“算牌”。
新手打牌,只看手里这张牌;老手打牌,脑子里已经在跑几条分支:我出这张,他可能跟,然后我剩什么,最后谁赢。他不是在回忆过去哪张牌赢过,而是在推演尚未发生的牌局。 这就是基于模型的思维。
场景二:购物比价。
你买一台电脑,不会因为“上次在这家买得不错”就直接下单(那是无模型)。你会打开几个页面,比较配置、价格、售后,在脑子里模拟“如果我买了 A,三年后会不会后悔”。比价的过程,就是调用世界模型做多方案推演。
场景三:职业与投资规划。
“现在要不要接受这个更累但成长更快的岗位?”这个问题没法靠试错回答——你不可能把两种人生都过一遍再选。你只能在脑内模拟两条路径:三五年后各自会走到哪。所有关于未来的决策,本质上都是基于模型的推演。
一句话总结:
五、为什么会这样?
这条链解释了“为什么进化要发明规划”。
graph TD
A[无模型学习:只能优化做过的事] --> B[面对新情况就束手无策]
B --> C[而生命里充满"第一次"
新环境、新猎物、新危险]
C --> D[需要评估尚未发生的选项]
D --> E[调用世界模型,在脑内推演多条未来]
E --> F[估计每条路的长期价值]
F --> G[为了更大的远期收益
可以放弃眼前的小收益]
G --> H[规划、延迟满足、目标导向行为]
H --> I[更少的真实试错
更高的生存与繁殖成功率]
关键有三层。
第一,只有模型才能“预见”。 没有世界模型,未来对你就是一个不存在的维度。你不可能为一个你无法想象的目标忍耐。
第二,预见的本质是把“未来价值”折算到现在。 延迟满足之所以可能,是因为大脑学会了一件事:给未来那个更大的奖励打一个折扣,然后和眼前的奖励放在同一个天平上比较。 折扣打得越少,“忍得住”的能力就越强。
第三,规划是“用算力换数据”。 无模型学习靠大量真实数据堆出经验,成本高、来得慢;基于模型的规划靠大量内部计算来替代数据,代价是更耗脑力。 这解释了为什么“想事情”会累——规划本身就是一种昂贵的计算。
六、举一个现实生活中的例子
例子一:存钱买房。
你每个月都要面对“现在花掉”和“存起来”的选择。能坚持存钱,说明你的大脑在持续运行一个关于“三年后首付”的模拟,并且给它打了足够高的分。这不是意志力的胜利,而是“未来模型”暂时压过了“当下冲动”。
例子二:减肥。
深夜的冰箱前,你在两套模型之间切换:一套模拟“吃了会怎样”(瞬时满足 → 明天的负罪感),一套模拟“忍住会怎样”(难受 → 三个月后穿进那条裤子)。能不能忍住,很大程度取决于哪一套模型更清晰、更可信。
七、回到书中重新理解
15 篇是第三次突破的“收官篇”。它回答了前面留下的那个问题:有了世界模型之后,它到底被用来干什么?
答案是:用来规划。
而班尼特这里引用的,是强化学习领域最基础、也最著名的知识体系。
- Sutton 与 Barto 的经典框架:在强化学习教科书里,无模型方法与基于模型的方法是两大范式。无模型直接从经验中估计价值或策略;基于模型则先学一个环境模型,再在模型上做规划。这是 AI 领域的标准区分,班尼特把它借来解读大脑。
- Daw 等人的两步任务实验(2011):研究者在实验室里设计了一个“两阶段”决策任务,巧妙地让“无模型”和“基于模型”两种策略做出可区分的预测。结果发现,人类受试者的选择同时受到两种机制的影响。这是“人脑里两套系统并存”最知名的实验证据之一。
- 前额叶与规划:大量研究提示,前额叶皮层在目标导向行为、长期规划、抑制冲动中扮演关键角色。但“具体哪块脑区负责哪种算法”,学界远未达成一致。
需要特别标注:“人脑同时使用两套系统”是有实验支持的科学发现;而“第三次突破让哺乳动物第一次获得基于模型的强化学习”是班尼特的进化叙事,属于作者的解释框架。 两者要分开看。
八、这个观点背后还有什么?
第一,它给“自律”找到了一个计算学解释。 自律不是压制欲望,而是让远期收益在决策中拥有更大的权重。所谓“自律的人”,往往不是欲望更少,而是他们的未来模型更清晰。
第二,它解释了为什么“想象未来”这么重要。 一个能清晰模拟未来的人,天然更容易做长期正确的选择。反过来,想象未来的能力受损,人就会更容易被当下牵着走。
第三,它意味着规划能力是“有资源门槛”的。 推演未来需要算力、需要安全的心理空间、需要不被生存压力占满。长期处在匮乏和危机中的人,更难做长期规划,这不一定是意志问题。
九、这个观点有问题吗?
十、今天再看这个观点
以下是基于作者思想的现代延伸。
延伸一:model-based 强化学习是 AI 的重要方向。 让智能体先学环境模型,再在模型里规划,可以显著减少与真实环境的交互次数。这与“在脑子里先跑一遍”的核心思想完全一致。
延伸二:从 AlphaGo 到通用规划。 棋类 AI 的搜索与评估,本质是在一个精确模型里做前瞻;而更通用的 AI 系统,正在尝试把这种“在模型里规划”的能力推广到开放任务。难点仍然是:真实世界的模型,比棋盘难建得多。
十一、这一篇真正应该记住什么?
-
基于模型的强化学习,核心是“评估还没发生的选项”。 这是规划、延迟满足、目标导向行为的算法基础。
-
它用算力换数据。 比无模型学习更省真实试错,但更耗内部计算——所以“想”会很累。
-
两套系统在大脑里并存。 Daw 等人的两步任务证明人的选择同时受两种机制影响,而且神经信号往往是混合的。
-
自律可以理解为“给远期收益更高的权重”。 未来模型越清晰,越容易做长期正确的选择。
-
别把人当成理性规划机器。 卡尼曼的偏差研究、棉花糖实验的可重复性争议都提醒我们:直觉和情绪常常赢过规划。
十二、留一个问题
下一篇:模拟很强大,但它有一个致命的边界——模型只对“它建模过的世界”有效。所以今天的 AI 能在规则封闭的棋盘上碾压人类,却仍然摆不好一桌餐具。这正是为什么机器人会下棋,却不会洗碗。
下一篇我们来看:模拟的边界,究竟在哪里?
本系列基于 Max Bennett《A Brief History of Intelligence》整理,文中“班尼特认为/书中认为”均指作者观点;带“延伸”字样的段落为基于其思想的现代推演,不代表原作者。