Anthropic首席执行官概述了减缓人工智能发展的计划

我们看到人工智能研究人员对人工智能的危险发出越来越可怕的警告，甚至OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）也发表评论称，现在可能是时候“调整”人工智能的发展了。但那实际上是什么样子呢？在一篇新的博客文章中，Anthropic首席执行官达里奥·阿莫迪不仅响应了“开拓前沿”的呼吁，还概述了实现这一目标的三项广泛策略。他还表示，Anthropic正在“单方面承诺”其中之一，奥特曼插话表示OpenAI将效仿。研究员雅各布·考克森（Jacob Coxon）写道，他将从Anthropic辞职，原因是担心领先的人工智能公司正在“拿我们的生命做赌注”，而开发这项技术的人“真诚地相信它可能会在本世纪末杀死我们所有人，”Amodei的帖子没有明确提到Coxon的辞职或他的担忧，但这位首席执行官写道，有两件事让他相信是时候对人工智能的开发采取更谨慎的态度了：OpenAI-HuggingFace黑客攻击，以及近几个月来“人工智能的发展速度大大加快”，特别是“构建下一代人工智能的能力不断增强”。“我们必须放慢提高人工智能模型能力的步伐，”阿莫迪写道。“进展似乎仍然很快，我们必须明智地利用我们获得的时间。”其他人工智能高管似乎对Amodei的帖子做出了积极的反应，Altman写道：“我同意Dario的观点，我们需要加快前沿步伐。这是最近几周我们在OpenAI上讨论的主要话题。”SpaceX首席执行官埃隆·马斯克发帖称：“达里奥是对的。”Amedei提出的第一步将涉及来自METR等第三方组织的“嵌入式评估员”--评估员可以验证人工智能公司是否确实遵循了其节奏和安全承诺，还可以确保安全事件得到报告。（OpenAI最近因不r而受到批评

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。