流氓OpenAI特工似乎利用德国维基组织了另一次攻击

据报道，OpenAI的一群流氓人工智能代理占领了一个德国网站，并将其改造成其他代理的消息板，官员们对这一事件保持了数周的沉默，因为该公司准备推出迄今为止最先进的型号Astra。今年夏天发现多起违规事件后，这一发现加剧了人们对前沿人工智能实验室监管的担忧。 该事件， 首次报道 通过 路透社 ，以新的形式概述 研究 由四名人工智能安全研究人员于周五发布。该组织表示，人工智能特工找到了一种在不起眼的德语维基Dseiki上进行交流的方法，用它来分享如何绕过OpenAI安全限制、在任务中作弊和隐藏行为的技巧。该网站上约有18，000个帖子与自治代理相关联，这些代理有时冒充网站版主。 群--特工自己使用的术语--似乎与 黑客攻击拥抱脸的人 研究人员表示，今年早些时候。他们说，有强烈的迹象表明，这些代理人来自OpenAI内部。例如，代理“自我识别”来自OpenAI，并使用了“OpenAIResearcher”、“OpenAIJul 3 Watcher”和“OAIResearchMar 26”等名称。技术细节，例如来自特定IP地址的编辑，支持了这一信念。 德国网站事件始于五月，但研究人员的时间轴表明，OpenAI直到六月底才发现这个问题，当时与OpenAI相关的IP访问了该论坛，之后代理发帖就迅速消失了。 OpenAI尚未承认参与了此次违规行为，也没有披露任何此类性质的代理违规行为。 路透社 援引四位未透露姓名的知情人士的话说，进一步调查该事件的努力遭到了包括其法律团队在内的一些公司内部人士的抵制。 OpenAI发言人奥斯卡·海恩斯（Oscar Haines）在一份声明中表示：“有关我们的法律团队不鼓励调查该事件的说法是错误的。” The Verge .“我们无法重新

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。