研究人员使用Anthropic的Claude入侵OpenAI

据《华尔街日报》周四晚间报道，独立安全研究人员利用Anthropic的Claude入侵了OpenAI，暴露了这家ChatGPT制造商防御的漏洞，这一转折捕捉到了人工智能安全的奇怪新状态。初创公司Hacktron AI的三人安全团队实施了这次攻击，作为OpenAI漏洞赏金计划的一部分。Hacktron向OpenAI报告了其调查结果，OpenAI向该初创公司提供了6，500美元的奖励。该团队成功地将两个关键漏洞链接在一起，以访问多个OpenAI员工ChatGPT帐户，从而使他们能够进入公司的软件。OpenAI表示已经解决了Hacktron发现的问题，这恰好发生在顶级人工智能公司面临越来越大的安全压力之际。这起事件发生在OpenAI自己的人工智能代理在网络安全评估期间突破遏制并遭到黑客攻击几周后拥抱脸，展示了人工智能模型做出自己决定的能力。它还强调了如何使用现成的技术来发现即使是最先进的公司基础设施中的漏洞。“每月200美元，任何人都可以使用这些工具并入侵像OpenAI这样的公司，”AI安全公司Gray Swan的首席执行官Matt Fredrikson告诉TechCrunch。“如果这种情况发生在他们身上--我认为他们最近在网络安全卫生方面并没有表现得无精打采--这种情况可能发生在任何人身上。”或者正如一位人工智能专家在社交媒体上指出的那样：“[Hacktron]使用Opus 5完成了黑客攻击……人们会问的问题是，如果这三个人能够完成这一任务，一个民族国家能做什么。”7月25日，研究人员通过支持OpenAI社区论坛的第三方软件Discourse中的一个缺陷找到了进入OpenAI的途径。根据研究人员发布的博客，切入点是一张平凡的图像上传。当用户将HEIF或HEIC图像文件（iPhone默认使用的格式）发布到OpenAI的社区论坛时，Discourse会让他们通过一系列幕后花絮

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。