人工智能行业最新的末日警告背后是什么？

人工智能行业似乎正在就其技术是否对人类构成生存威胁展开迄今为止最激烈的争论。当前的讨论始于人工智能研究员雅各布·考克森（Jacob Coxon）表示，他因担心领先的人工智能公司正在“用我们的生命来赌博”。然后Anthropic的联盟负责人插话说：“我们确实真诚地相信人工智能可以杀死所有人类！”补充说，他个人认为“未来十年内的可能性大于10%”。在TechCrunch的Equity播客的最新一集中，Kirsten Korosec、Sean O ' Kane和我讨论了最新的世界末日警告。我试图阐明为什么我对许多人工智能末日论者的说法持怀疑态度，而克尔斯滕则问这是否“只是一种奇怪的炫耀方式，以展示他们公司的人工智能模型有多先进”，特别是在这些公司准备上市之际。肖恩想知道这些担忧如何出现在Anthropic的S-1 IPO文件中：“现在是否有初级律师正在审查并不得不重写S-1文件的整个部分，以便说，“Anthropic的官方立场是超过10%我们是否有机会开发出能够消灭所有人类并对我们的业务产生重大影响的东西？”继续阅读以预览我们的对话，并进行编辑以确保长度和清晰度。(Note：我们在Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）发布更谨慎的人工智能开发计划之前录制了这一集。）肖恩·奥凯恩：我很难想象爆炸如此之快的事情。这一警告不仅来自这位也在OpenAI工作的年轻研究人员，而且还立即被Anthropic的对齐领导在X上分享-谁可能是有史以来最好的错误感叹号之一，分享了Coxon的帖子和线程，并说：“我们真的真诚地相信AI可以杀死所有人类！”感叹号！多么奇怪的氛围啊。那只是一吨催化剂

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。