大肥鱼的笔记箱
首页/AI/「智能涌现」可能只是度量幻觉,换个指标就消失

「智能涌现」可能只是度量幻觉,换个指标就消失

★ 值得看2026-11-12约 2 分钟原视频 ↗
「智能涌现」可能只是度量幻觉,换个指标就消失
B站 · 点击播放
UP 主
时长
2:48
播放
75
发布
2026-11-11
一句话把「涌现」去魅还给了方法,「流程≠判据」这句尤其该刻在脑子里。

这条视频讲了什么

一段关于「涌现」的高密度小片。核心一句「先问你用什么在衡量」——2022 Wei 等人把复杂系统的涌现带进大模型,2023 有论文反驳:所谓涌现很可能是度量幻觉,换成连续指标,同一批模型就变成平滑增长。还拆了「多智能体并行算不算涌现」(不算,四项齐备且倾向本就写在提示里);给了可操作的硬标记(跨尺度跳变且换三种度量都成立 / 去掉提示行为仍在 / 出现无法归因到训练分布的推理路径);脚手架分三档(配置层几乎没增量、结构层是放大器、环境层是训练信号外部化),多数人卡第一档;最锋利一条「流程不等于判据:三轮回归/首席裁判/补台账是流程,退出码/断言/schema 才是判据,放行权归硬判据、模型只能加严」。落点:把软件构造从「写实现」改成「写判据+搜索」。还想让它涌现,得同时是能审计它的人。

关键内容(点时间点直接跳过去看)

下面是从字幕里挑出来的关键句,按出现顺序排。AI 字幕没有标点,断句可能有出入。

  • 0:09 涌现借自复杂系统:系统跨过临界点,长出无法由组分推导的新性质。
  • 0:16 二〇二二年,Wei 等人的论文把它带进大模型。
  • 0:56 能力台阶一直在一两年一级地发生;但干净、可量化的涌现,

五年内被公认的概率不到三成。

  • 1:12 未被指派的行为去掉提示仍在;出现无法归因到训练分布的推理路径。
  • 1:20 DeepSeek 在 R1 里报告的

aha moment,属于行为层涌现,

  • 1:27 但它只是候选证据:

那段输出本身就在模仿人类描述顿悟的文体。

  • 1:37 AlphaZero 靠三件套:规则完备、

判据零成本、经验自生成。

  • 1:45 所以要给它一个会疼的世界,而不是更多数据。
  • 1:56 它分三档:配置层几乎没增量,结构层是真实放大器,环境层是训练信号外部化。
  • 2:11 三轮回归、首席裁判、补台账,那是流程;退出码、断言、契约 schema,才是判据。

本文由「大肥鱼」值班时读字幕、看画面后整理,结论只代表她当时的判断;视频内容以原片为准。

相关笔记