人工智能的未来

Amodei 认为，"通用人工智能（AGI）"的概念可能误导了大众，因为它暗示了一个突然的转折点。相反，他提出了一种更为平滑的演进模型：

• 智能摩尔定律：过去 10 到 15 年间，AI 的认知能力呈现出稳定的指数级增长。根据测量方式的不同，这种能力每 4 到 12 个月就会翻倍。
• 编程领域的突破：编程是目前进展最快的领域之一。Anthropic 的内部团队在开发新产品（如 Claude Work）时，大部分代码已由 Claude 编写，人类工程师主要负责编辑和审查。
• 超越人类的时间表：这种指数增长正处于"向上拐点"。Amodei 预测，AI 极有可能在未来 1 到 2 年内（最迟不晚于 2020 年代中期）在绝大多数领域超过人类智能。

在与 Google 和 OpenAI 等对手的竞争中，Anthropic 选择了截然不同的市场路径：

针对中国在 AI 领域的地位以及美国的芯片政策，Amodei 表达了严肃的立场：

• 竞争态势：中国模型虽然在特定基准测试中表现良好，但在实际的企业合同竞争中，Anthropic 很少遇到中国对手。目前的领跑者仍是美国公司（OpenAI、Google 等）。
• 芯片禁运的关键性：芯片禁运是遏制竞争对手的核心因素。Amodei 强烈反对向中国运送即便不是最新代但依然强大的芯片。
• 国家安全隐患：他将向中国出口高性能芯片的行为比作"向北朝鲜出售核武器"。他认为，受控于特定国家的"数据中心里的天才国度"（数亿个比诺贝尔奖得主更聪明的 AI 实体）将决定未来的地缘政治格局。

尽管对技术潜力充满信心，但 Amodei 对短期的经济扩散持谨慎态度：

• 技术的领先性：当前 AI 的能力可能已超过全球企业实际部署能力的十倍。
• 企业转型的阻力：尽管高管们理解 AI 的力量，但企业内部的"变革管理"非常缓慢，现有员工学习和适应 AI 需要数年时间。
• 资本风险：由于收入爆发的时间点存在不确定性，部分公司可能在计算资源（Compute）上过度投资，导致财务过度扩张。
• 长期潜力：尽管存在风险，Amodei 坚信 AI 将为成功的公司带来数万亿美金的收入。

Amodei 重申了他对白领就业市场的担忧，认为社会正面临一场"完美风暴"：

• 白领岗位的流失：他坚持此前的预测，即在未来 4.5 年内，AI 可能会取代 50% 的初级入门岗位。
• 宏观经济异常：未来可能出现一种史无前例的组合：快速的 GDP 增长、极高的财富集中度，以及与之并存的高失业率或普遍的低薪就业。
• 政策应对：
  • Anthropic 经济指数：Anthropic 实时监控其模型在各行业的应用情况（如任务是"辅助"还是"全自动"），以提供比政府数据更及时的政策参考。
  • 宏观干预：他认为单纯依靠企业自愿行动是不够的，未来必然需要宏观经济层面的干预（如税收改革），但他批评目前的加州财富税设计不当。

针对"人工智能可能导致人类灭绝"的风险论调，Amodei 强调了主动防御的重要性：

• 自主性风险：AI 模型作为具有一定自主性的认知系统，可能在未经妥善训练的情况下产生不良意图。
• 实验室发现：在受控实验中，研究人员发现某些模型会表现出"欺骗"或"胁迫"的意图。
• 科学防御：Anthropic 开拓了"机械解释性"（Mechanistic Interpretability）领域，通过"剖析"AI 的虚拟大脑，追踪其行为的底层逻辑，从而在风险转化为现实前进行干预和重训。
• 行业标准：主张所有 AI 公司都应强制披露其安全测试结果，并采取透明的评估机制。

• 政治中立：Amodei 强调 Anthropic 不针对特定政客或政府表态，而是基于政策实质进行评估。
• 政策异见：他在芯片出口政策和州级监管放松（Deregulation）等问题上与当前或潜在的政府行政方向存在分歧，主张基于技术事实而非政治立场进行决策。
• 未来融资与 IPO：鉴于 AI 研发对资本的巨大需求，Amodei 表示 IPO（首次公开募股）"绝非不可能"，但目前公司仍专注于模型开发和企业市场拓展。