如果人工智能行业遵循自己的研究，它可能已经暂停了

2025年初 我正在采访Anthropic首席执行官达里奥·阿莫迪，当时他 解释 为什么，尽管该公司一再承认人工智能可能会产生灾难性的结果，但人们似乎基本上并不感到不安。他说：“有令人信服的证据表明，这些模型可能造成严重破坏。”但是，他补充说，这些危险仍然是理论上的。世界是否需要一个类似珍珠港的局面才能意识到这些可怕的可能性？他叹了口气。“基本上，是的，”他说。 事实证明，只需Amodei的一名初级员工及时发布X帖子，就能将人工智能的恐惧加速到全球议程的首要位置。9月8日， 雅各布·考克森 公开发布辞职信，指责Anthropic和其他前沿人工智能公司“直接竞相自我提升智能，用我们的生命来赌博”。几乎立即，一位更高级的Anthropic工程师证实，公司内部的许多人认为他们的工作有10%的机会消灭人类。 现在人工智能领导人正在要求暂停，立法者正在要求进行调查。在论证未来发行节奏的理由时，阿莫德伊上周末尝试了 开辟道路 走向不会行为不端的有益人工智能。这篇文章揭示了这项任务有多么困难。Amodei计划的一个支柱是，我们必须了解这些模型内部发生了什么。如果我们不了解它们是如何工作的--它们是如何“思考”的，如果你想把它们拟人化的话--那么建造可靠的护栏就要困难得多。 Anthropic是这一努力的领导者，旨在揭露模特的内部审议，称为 机械解释性 ，对关键任务的一个看似无聊的名称。但阿莫德伊承认，尽管他的团队和其他研究人员正在做所有工作，我们基本上不知道为什么克劳德和其他模型有时会以奇怪甚至越界的方式解释他们的任务。他写道：“尽管取得了所有进展，但我们仍然了解这些模型内部发生的事情的一小部分。”

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。