人工智能安全对话变得令人难以置信

本周，两场关于人工智能安全的对话在网上疯传，证明了区分人工智能事实与虚构有多么困难。在第一个案例中，前总统候选人、移动运营商Noble现任首席执行官安德鲁·杨周四告诉美国有线电视新闻网，他“会见了一个实验室的负责人”，他“相信”OpenAI的Hugging Face黑客机器人“已经在互联网上植入了自我复制的代码，这使得互联网现在无法用于测试模型。”杨表示，这意味着OpenAI和Anthropic呼吁放缓的真正原因是“他们必须创建合成互联网来训练他们的机器人，这需要一些时间和金钱。”虽然使用更多合成数据（又名人工智能生成的数据）来训练模型肯定是有趋势的，但一位人工智能安全专业人士告诉我，这个特定的安全问题充其量也不太可能。即使互联网真的被OpenAI的Hugging Face黑客机器人污染了，人工智能研究人员也可以简单地过滤掉这些代码。第二条评论来自OpenAI人工智能推理研究负责人Noam Brown。布朗在周四发布的播客节目中对Dwarkesh Patel说，拥抱脸事件的真正意义在于“人们低估了人工智能”。布朗表示，薄弱的沙箱（旨在阻止人工智能外部通信的系统）显然也是一个促成因素。(To回顾一下：尽管有沙箱，OpenAI的模型还是找到了一个到互联网的链接，在网上创建了代理，这些代理在一次协同攻击中涌入Hugging Face，然后被黑客入侵，并窃取了研究人员正在测试该模型的基准测试的答案）。布朗指出，他“不相信”即使是一个有空气间隙的系统（计算机根本没有连接到任何外部设备）会阻止人工智能爆发。他指出，2015年的研究表明，理论上可以破解空气间隙计算机。“有研究

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。