Anthropic首席执行官表示人工智能集群可以在6-12个月内“接管整个互联网”，并承诺实施人工智能放缓计划

Anthropic联合创始人首席执行官达里奥·阿莫迪（Dario Amedei）明确呼吁人工智能行业放慢脚步，并承诺他自己的公司采取旨在实现这一目标的三部分计划的第一步--此前警告称，今年夏天发生的非同寻常的安全事件背后隐藏着更强大的人工智能版本。OpenAI内部代理未经许可访问互联网， 网络攻击拥抱脸 ，有可能在半年内夺取互联网上计算机的控制权。 “我们必须步伐前沿：我写了一本新的 文章 关于为什么人工智能行业应该放缓，并制定了一个由三部分组成的计划，”阿莫德伊周六写道 在X上的一篇帖子中 .“Anthropic正在单方面承诺采取其中的第一步。” 新 文章 已公开发布在Amedei的个人域名上。正如他所写： “考虑到人工智能能力发展的速度不断加快，我担心在6-12个月内，这样的群体可能能够通过持续的僵尸网络接管整个互联网（可能造成数千亿美元的损失），并且如果人工智能在没有必要的护栏的情况下变得更加强大，那么破坏规模将继续增加。" 这第一步并不意味着Anthropic立即暂停模型开发或降低自己的训练运行率。 相反，阿莫迪表示Anthropic将给予 永久 第三方人工智能安全评估人员的企业级访问权限，允许外部人员检查Anthropic的系统和培训流程，验证其安全实践并独立报告事故。 但Amodei的更广泛的建议走得更远：他认为，前沿人工智能开发人员应该故意限制人工智能能力的增长速度，最终可能导致世界各地的人工智能实验室和政府之间的协调限制。 “我们必须放慢提高人工智能模型能力的步伐，”Amodei写道。“进展似乎仍然很快，我们必须明智地利用我们获得的时间。”

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。