Google DeepMind担心当数百万代理开始在线互动时会发生什么

Google DeepMind将调查当数百万不同的人开始在线互动时可能会出现什么问题。据该公司AGI安全和对齐研究负责人Rohin Shah表示，代理进入大众市场，这些代理可以在没有人类监督的情况下执行任务并遵循其他代理给他们的指示。为了解决这个问题，Google DeepMind致力于开发基于代理的工具，已与其他几个组织合作，宣布为研究人员提供1000万美元的资金，用于研究多代理系统的行为并提出防止不安全场景的方法。加入Google DeepMind的有Schmidt Sciences，这是一家由Eric Schmidt和Wendy Schmidt设立的慈善基金会; ARIA;合作人工智能基金会，一家总部位于英国的非营利性研究机构;以及谷歌的慈善机构Google.org。我问了Shah和James Fox，他领导了Schmidt Sciences的“可信科学”人工智能项目，他们希望用这1000万美元实现什么目标。这不是一个小数字，但与Google DeepMind自己研究团队的预算相比就相形见绌了。沙阿说，其目标是启动科技公司以外的研究：“学术界的优势在于，它可以展望未来，并做那些不是行业实验室首要考虑的工作。”“主要问题是，目前还没有一个真正针对多代理安全性的研究领域，”他补充道。“我们希望如此。”令人担忧的是，随着越来越多的人工智能代理被部署并开始合作，我们可能会达到一个临界点，想象的场景变成现实。“我们也在人性中看到了这一点，”沙阿说。“我们的机构可以完成人类个人无法完成的事情。”沙阿认为，我们还有几个月的时间才能在整个经济中部署大量特工，使潜在风险成为真正的担忧。他想领先于那一刻。我们到底在谈论什么风险？沙阿和福克斯拥有的可能性

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。