10 亿美金押注 AI 安全：Anthropic 联手埃森哲

据 Woofun AI 消息，Anthropic 正式确立埃森哲为其首个嵌入式评估机构，旨在通过引入独立第三方视角，实质性推进人工智能发展速度的管控策略。

这一合作直接回应了 Anthropic CEO 达里奥·阿莫代伊于 9 月 12 日提出的三步内容计划，其核心逻辑在于遏制由递归自我改进驱动的指数级技术加速。阿莫代伊警告，若任由 AI 自主构建更先进版本，其演进速度将超越人类的理解与控制边界。该提议在行业内部引发显著分歧：OpenAI 的 CEO 山姆·奥特曼与 SpaceX 的马斯克均表示支持，而英伟达 CEO 黄仁勋则明确反对，认为此类监管并无必要。

深层原因在于各方对技术失控风险的认知差异，阿莫代伊强调必须采取行动以避免灾难性后果，其提案第一步即要求引入拥有类似员工权限的独立评估人员。

为落实这一承诺，Anthropic 将与埃森哲旗下的 AI 业务部门 Faculty 展开深度合作，具体涵盖模型测试、安全评估及防护机制检测。Woofun AI 整理数据显示，双方计划在未来五年内为该项目投入至少 10 亿美元。鉴于目前缺乏专门资助独立评估的机制，长期资金拟来自政府渠道或各类基金，但出于紧迫性，Anthropic 将直接提供资金支持。

值得注意的是，嵌入式评估仍属新兴领域，相关实施细节仍在商讨中。

此次合作并非排他性安排，Anthropic 预计在未来几周还将宣布与其他评估机构的合作。埃森哲董事长兼 CEO 茱莉·史威特指出，其 Faculty 部门在测试全球顶尖 AI 实验室模型方面经验丰富，致力于从设计之初打造具备安全性与伦理性的复杂 AI 系统。这是继行业巨头公开分歧后，首次出现针对 AI 安全嵌入式评估的大规模资本与机构协同，标志着独立安全验证正从理论走向制度化实践。