为什么这么多人工智能研究人员认为机器可以杀死所有人

今年早些时候， 里舒布·贾恩（Rishub Jain）辞去了 人工智能 研究员 谷歌DeepMind 在一次揭露之后。 当他研究新模型时，他开始相信他和人工智能前沿的其他所有人都在放弃控制权。通过使用人工智能的编码技能来加速下一代模型的工作，他正在将自己从等式中剔除。人工智能实验室希望将这种方法发展到人工智能能够无限期地改进自己的程度，这个过程被称为循环自我改进。 贾恩认为，让人类参与其中可能对于保持对技术的控制并避免可怕的后果至关重要。“人工智能的进步正在加快，”他告诉《连线》。“随着人工智能的能力越来越强，它带来了更多的风险。”他可能无法正确了解人工智能模型如何构建其继任者，这让他感到非常不安，以至于在六月辞职。 贾恩是越来越多公开表达这些担忧的人工智能研究人员之一。 最近几周，恐慌加剧。令人惊叹的人工智能能力进步-OpenAI模型解决了 数百年前的数学问题 几个小时内，一系列安全事件发生，特工蜂拥而至 摆脱遏制 入侵其他系统。 研究员雅各布·考克森（Jacob Coxon）本周宣布从Anthropic辞职后，这些担忧达到了顶峰 同时警告 人工智能公司正在“直奔自我改进的超级智能并用我们的生命来赌博”。一位致力于人工智能安全的高级Anthropic领导者- 尖声说到 他还说：“我们真的相信人工智能可以杀死所有人类！我个人认为未来十年内这一数字将超过10%。” “我确实认为递归自我完善的愿景让人们感到害怕，”非营利研究机构MIRA的计算机科学家Nate Soares说， 如果有人建造它，每个人都会死 该报告认为，超人类AI将导致人类灭绝。“开始感觉真实了。” 一个关键

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。