Dario Amodei:
我们正接近指数增长的终点

Dario 回顾了他在 2017 年提出的"大算力团假说"（Big Blob of Compute Hypothesis）。AI 的进步主要取决于七大要素：

过去三年的更新在于，预训练的增益依然稳定，但强化学习（RL）的缩放定律开始显现。就像数学竞赛或编程任务，模型的表现与训练时长呈对数线性关系。

Dario 认为模型正从"聪明的学生"向"专业博士"迈进。预训练就像是人类的进化（缓慢获取先验知识），而强化学习和长上下文学习则像是人类在职场中的学习。

他感到最意外的是公众尚未意识到我们离指数增长的终点（即 AGI 爆发点）有多近。这种认知差距让他产生了一种"局内人的孤独感"。

Dario 提出了一个宏大的愿景：未来的 AI 系统将不再是简单的助手，而是拥有顶尖人类专家水平（如诺贝尔奖得主）的协同集群。

针对"AI 只是提高了写代码行数，而非生产力"的质疑，Dario 进行了有力反驳。他提出了软件工程自动化的四个阶段：

在 Anthropic 内部，Claude 已经让一些工程师不再亲自动手写 GPU 内核。Dario 预测，代码模型在未来 6 个月到 1 年内将达到 15-20% 的全要素生产率提升。

长上下文的优势让模型不需要"入职培训"——它能瞬间"读完"整个代码库，打破了传统企业中新员工需要 6 个月才能上手的局限。

Dario 提到，在极端的竞争压力下，公司没有时间搞虚假的生产力。Claude Code 的成功是因为它真实地解决了工程师的痛苦，而不是创造了表面的效率指标。

这是一个关于财务风险的精彩博弈论分析。Anthropic 正在进行一场关于万亿美金算力的"有责任博弈"。

这种"技术指数增长"与"社会线性适应"之间的鸿沟是巨大的风险点。AI 能瞬间发明新药，但疫苗分发和合规性可能需要几年。

Dario 解释了为什么现在的 AI 公司都在亏损：每一代模型都在盈利，但公司都在把利润投入到训练更大规模的下一代模型中。

Dario 认为持续学习（Continual Learning）是一个可以攻克的工程问题。解决路径包括：

• → 通过加长上下文扩展记忆能力
• → 在模拟环境中进行大规模训练
• → 让模型控制电脑屏幕来泛化到物理世界

一旦 AI 开始协助设计下一代 AI，进步的速度将从"人类速度"切换到"AI 速度"。Dario 提到 Anthropic 已经在使用模型来加速自身的研发进程。

这种自我进化的循环可能会在短时间内产生巨大的技术飞跃，但也带来了前所未有的挑战。

Dario 详述了他在《技术的青少年时期》一文中的担忧。我们需要在生物武器防御和自主权风险上建立透明且敏捷的监管。

Dario 提出了一个激进的想法：随着技术的进步，某些政府形式（如封建制度在工业化面前）会变得不可持续。他希望 AGI 能成为一种"融化独裁结构"的力量。

但前提是民主国家必须掌握更强的技术先机。如果双方都有 AI，但不知道谁更强，可能会引发不稳定的冲突。

给 AI 一份"禁止清单"是行不通的。通过赋予它一套抽象原则（如《世界人权宣言》），它能更好地处理边缘案例。

历史学家以后会觉得每一步都是深思熟虑，但实际上 Dario 每天要处理 30 个决策，有些可能就是在午饭前 2 分钟草率决定的。