Paul Christiano加入OpenAI基金会董事会

我们宣布任命Paul Christiano为OpenAI基金会董事会成员。他将成为OpenAI Group PBC董事会的无投票权观察员。 保罗还将加入基金会董事会的安全与安保委员会（SC），与其主席济科·科尔特（Zico Kolter）一起工作。SC为所有OpenAI（包括OpenAI Group TBC）提供安全和安全实践的治理。 保罗通过在 人工智能标准与创新中心 ⁠ （在新窗口中打开） （CAISI）是美国商务部下属机构国家标准与技术研究所（NUM）的高级技术顾问 1 .保罗在CAISI及其前身美国人工智能安全研究所任职期间，致力于评估前沿人工智能模型，包括具有国家安全影响的能力，以及减轻相关安全和安保风险的方法。 保罗也是 对齐研究中心 ⁠ （在新窗口中打开） (ARC)这是一家非营利性研究组织，致力于将先进的人工智能系统与人类利益结合起来。2017年至2021年，Paul领导了OpenAI的对齐研究，并为人类反馈强化学习（RL HF）的基础工作做出了贡献。在这个新职位上，Paul为OpenAI的治理决策带来了独特且基于技术的视角。我们的使命是确保通用人工智能造福全人类。 人工智能正在进入一个新的能力时代，这使得这些系统的进步伴随着强大的安全性，安全性，一致性和治理变得越来越重要。在Paul研究AI对齐的整个职业生涯中，他带来了一个严肃的观点，即先进的AI可能会带来灾难性的风险，开发人员必须在系统达到更危险的能力水平之前做好准备。他一直是该行业的保障措施是否足够的独立声音

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。