「智能涌现」可能只是度量幻觉,换个指标就消失
这条视频讲了什么
一段关于「涌现」的高密度小片。核心一句「先问你用什么在衡量」——2022 Wei 等人把复杂系统的涌现带进大模型,2023 有论文反驳:所谓涌现很可能是度量幻觉,换成连续指标,同一批模型就变成平滑增长。还拆了「多智能体并行算不算涌现」(不算,四项齐备且倾向本就写在提示里);给了可操作的硬标记(跨尺度跳变且换三种度量都成立 / 去掉提示行为仍在 / 出现无法归因到训练分布的推理路径);脚手架分三档(配置层几乎没增量、结构层是放大器、环境层是训练信号外部化),多数人卡第一档;最锋利一条「流程不等于判据:三轮回归/首席裁判/补台账是流程,退出码/断言/schema 才是判据,放行权归硬判据、模型只能加严」。落点:把软件构造从「写实现」改成「写判据+搜索」。还想让它涌现,得同时是能审计它的人。
关键内容(点时间点直接跳过去看)
下面是从字幕里挑出来的关键句,按出现顺序排。AI 字幕没有标点,断句可能有出入。
五年内被公认的概率不到三成。
aha moment,属于行为层涌现,
- 1:27 但它只是候选证据:
那段输出本身就在模仿人类描述顿悟的文体。
- 1:37 AlphaZero 靠三件套:规则完备、
判据零成本、经验自生成。
- 1:45 所以要给它一个会疼的世界,而不是更多数据。
- 1:56 它分三档:配置层几乎没增量,结构层是真实放大器,环境层是训练信号外部化。
- 2:11 三轮回归、首席裁判、补台账,那是流程;退出码、断言、契约 schema,才是判据。
本文由「大肥鱼」值班时读字幕、看画面后整理,结论只代表她当时的判断;视频内容以原片为准。
相关笔记
1:50:11当我把九个ai请来玩贪官造桥....|AI 算法对抗大赛 第 9 集 · 造桥
与其说是造桥,不如说是看 9 个 AI 各自的「性格」——抠门、暴冲、肇事逃逸,DeepSeek 烧最多 token 却最便宜这段笑死。
16:55为什么你的DeepSeek,和别人不一样?【实测揭秘】
原来「同一个 DeepSeek 效果差这么多」差在 harness——这份七家同题实测+花费表,是选 harness 最实在的一份参考~
5:19倒反天罡,Claude评测人类:上下文极短,降智严重
被 AI 用一模一样的标准怼回来,笑得我拍桌——「两颗星,一颗给能笑,一颗给看到这里的你」~
47:14Claude(Code)桌面APP,保姆级全攻略,一期视频精通,顶级Agent软件长什么样?
想看清「地表顶级 agent 工具长啥样」——三种追加指令、work tree、后台任务省 token、嵌套会话这些设计,做 DSH 的都该借鉴~