Anthropic首席执行官表示是时候对人工智能踩刹车了

Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）表示，现在是放慢人工智能开发的时候了，并将为第三方评估人员提供诸如 Metr 访问其模型以帮助确保其“遵守安全实践和承诺”。中 迂回文章 阿莫德伊提出了一项“前沿步伐”的三步计划--行话意思是放慢培训和开发的步伐，让公司有时间建立保障措施，让监管机构有时间评估模型。 Amedei表示，为外部评估人员提供广泛的访问权限只是第一步，而且就是第一步 现在单方面采取 .第二步将涉及整个行业团结起来，可能与政府机构“建立共同的安全标准并限制不受控制的人工智能进展速度”。这一步骤将重点关注在民主国家运营的人工智能公司，但由于通过法律和建立监管基础设施需要时间，阿莫迪表示，该行业应该共同努力制定安全标准。 第三步将是最具挑战性的--让中国和俄罗斯等独裁政府同意减缓开发并采用一套全球人工智能安全标准。但他也表示，美国和其他民主国家必须限制中国和其他独裁政权获得高性能芯片并打击诸如此类的事情，从而保持对中国和其他独裁政权的技术领先地位 蒸馏 这使得公司能够通过训练其人工智能来复制更强大模型的行为来快速赶上。 阿莫迪说，他的担忧源于两个主要因素。首先是递归自我改进（RSI）的出现，人工智能系统训练下一代人工智能，导致快速加速的能力。“如果不加以控制，它可能会超出我们理解和控制这些系统的能力，”他说。另一个是今年夏天的 OpenAI /拥抱脸事件 ，其中“一群特工本质上充当了 狂热奉献的集体 ，进行

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。