Google DeepMind成立研究所以扩大AGI辩论

谷歌和谷歌DeepMind研究人员周三成立了DeepMind Institute，以推进围绕人工通用智能（AGI）的对话。该研究所将DeepMind联合创始人Shane Legg、谷歌高管James Manyika和谷歌DeepMind主席Demis Hassabis列为董事，Legg担任总编辑。该新研究所旨在表达谷歌、谷歌DeepMind以及围绕AGI的更广泛全球研究界之间的不同观点。公告中写道：“随着越来越多的数据和信息在快速发展的前沿浮出水面，他们可能会改变主意。”首批四篇论文集涵盖了一系列主题：管理潜在AGI干扰的经济政策、保留人类可读的模型推理、人类繁荣的原则以及评估前沿人工智能模型的框架。DeepMind安全研究员Rohin Shah和Anca Dragan撰写的一篇文章认为，人工智能的透明度窗口（查看和检查模型逐步推理的能力）的缩小并非不可避免。由于新的架构使最强大的模型更难监控，作者表示，开发人员和监管机构应该直接面对安全权衡。这可能意味着限制“不透明序列深度”--模型在不产生可读推理痕迹的情况下可以执行的序列计算量--或者要求开发人员证明不太透明的系统仍然可以监控。在另一篇文章中，哈萨比斯提出了一个美国-领导前沿人工智能标准机构评估最先进的人工智能模型。在他的框架下，开发人员最初将在发布前30天自愿提交模型以供审查。一旦评估系统被证明是有效的，通过测试可能成为在美国部署前沿模型的要求。该机构首先将与人工智能公司协商设计评估，但最终将开发独立的、独立的评估

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。