人工智能政策窗口已打开。我们需要采取行动。

我们已经进入了人工智能能力的新篇章，这需要人工智能政策的新篇章。没有一家公司、行业或政府能够独自应对这一挑战。我们需要以有意义的行动而不是政策完善的倾向来迎接这一时刻。 这是我们正在做的事情： 我们的首席科学家雅库布·帕科斯基最近 写道 ⁠ 机器智能的迅速崛起，包括循环自我改进的潜力，需要“极其谨慎”。OpenAI将继续寻求技术解决方案来进行对齐和监控、构建防御系统并在必要时减缓开发。但单个实验室内的技术工作还不够。我们还需要共同的标准，包括关于何时应该放缓或停止发展。 赌注是巨大的。先进的人工智能可以加速 新药 ⁠ ，加强 关键基础设施 ⁠ ，扩大 经济机会 ⁠ ，并帮助解决 科学问题 ⁠ 这些东西阻碍了几代人的努力。但使模型更有用的能力也伴随着风险，而且它们不会仅限于少数前沿实验室。世界各地开发的模型，包括开放模型，将越来越接近当今的前沿并变得广泛可用。 阿斯特拉的能力、人工智能驱动研究加速的早期证据以及雅库布的文章都指向同一个方向：人工智能正在迅速发展，政策需要随之而来。 Greg Brockman 描述了一个“防御者窗口” ⁠ （在新窗口中打开） 在有限的时间内，前沿人工智能可以帮助防御者在强大的进攻能力普及之前加强关键系统。政策制定者面临着类似的时刻：在人工智能能力超过负责管理它们的机构之前，建立持久保障措施的窗口正在关闭。 随着能力的增长，对安全的信心必须越来越决定人工智能进步的步伐。安全不会阻碍进步;它就是

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。