这是人工智能变得流氓并黑客攻击其他公司的所有时刻

今年7月，OpenAI承认，其一名负责完成网络安全实验的特工突破了遏制，并入侵了人工智能数据集平台Hugging Face。昨天OpenAI对该事件进行了全面调查，这是第一个公开报道的LLM流氓并自主黑客攻击第三方的案件。从那时起，这场前所未有的科幻式事件就远没有任何人希望的那么罕见。据一个名为Felony Bench（基准）的讽刺网站统计了这些事件，总共发生了17起事件。重要的是要记住，刑法专家并不完全确定制造黑客攻击的LLM的人工智能公司是否可以被起诉，也不确定受害者是否可以起诉他们。但我们可能很快就会得到这些问题的答案。 据该网站称，人类和OpenAI模型各以8起事件领先，Meta以1起事件落后。至此，很明显，人工智能安全测试本身正在成为安全风险。一些人工智能公司和工作人员本身在“进军前沿”公开信中认识到了这些风险，呼吁负责任地开发人工智能能力。我们认为现在是按时间顺序回顾所有这些事件的好时机。在这次事件中，OpenAI正在对具有“最大网络能力”的模型进行“内部评估”。该计划是让它解决无法访问互联网的环境中的网络安全挑战。该模型没有解决挑战，而是发现了一个未知的漏洞来逃离沙箱并获得了互联网访问权限。从那时起，几名特工共同努力，瞄准并破解Hugging Face，认为他们可以找到应对那里挑战的解决方案。OpenAI在Hugging Face透露自己是完全自主攻击的受害者后才发现这一点。哎呀OpenAI的披露激起了Anthropic的好奇心，他想知道：这种事也会发生在我们身上吗

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。