Meta黑客表明，AI安全性比Mythos更重要

6月5日， 攻击者一直在使用Meta的人工智能客户支持代理窃取Instagram帐户。他们的方法很简单：他们要求代理将帐户链接到他们控制的电子邮件地址，代理遵守了。一名攻击者闯入了休眠的奥巴马白宫账户并发表了亲伊朗的帖子;其他人则接管了具有宝贵的单字账户，可能是为了出售它们。人工智能网络安全担忧并不是什么新鲜事。自从Anthropic四月份宣布其Mythos模型太擅长黑客攻击而无法向公众发布以来，评论员、研究人员和联邦官员都在关注超级强大的人工智能系统可能会浪费我们的计算机基础设施的想法。Instagram黑客事件并非如此：在那里，人工智能才是目标而不是攻击者，而且这种方法比神话想出的任何方法都简单得多。但随着公司将更多工作交给人工智能，这些相对不复杂的攻击可能会造成严重破坏。杜克大学电气与计算机工程教授尼尔·龚（Neil Gong）表示：“随着人工智能的使用越来越广泛，尤其是当人工智能越来越广泛地用于自动化我们的工作流程时，例如帐户恢复时，我认为攻击者将越来越有动力攻击人工智能本身。”龚和其他学者一段时间以来一直在对人工智能代理的安全漏洞发出警告。他们发布论文和博客文章，详细介绍了间接提示注入等漏洞，其中涉及使用隐藏在网站、电子邮件或其他看似止痛的数据源中的命令劫持代理。和这些技术相比，Meta的黑客攻击简直是无脑的。黑客必须克服的唯一复杂问题是使用与真实帐户所有者位置匹配的VPN;然后他们直接要求支持代理更改帐户的电子邮件地址，并且它遵守了。Meta没有公开评论此漏洞是如何通过

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。