随着人工智能安全担忧加剧，三位先驱提出了保持开放的理由

随着“步伐前沿”等项目将主要实验室视为确保人工智能研究安全的一种方式，开源模型已成为该行业的一个痛点。由于开放重量模型可以免费分发，而且对其使用方式几乎没有控制，因此不容易控制，导致一些实验室将它们视为彻头彻尾的可怕。但在上周于拉斯维加斯举行的Ai 4会议上，世界上三位最受尊敬的人工智能研究人员--诺贝尔奖获得者杰弗里·辛顿（Geoffrey Hinton）、世界实验室首席执行官兼联合创始人李飞飞和Coursera联合创始人安德鲁·吴（Andrew Ng）--就这个问题发表了讲话。尽管他们在特定策略上存在分歧，但三人都为保持人工智能的开放提出了强有力的理由。对于三位发言者来说，核心问题是允许少数主要人工智能公司控制进展速度。当少数公司控制对一项技术的访问时，就像苹果和谷歌对移动操作系统所做的那样，创新可能会放缓，而控制平台的公司可能会影响平台上的构建内容。吴恩达表示，他担心人工智能领域出现类似的动态。“我不希望有守门人，”吴说。“这限制了我们所有人访问AI的方式。公司有动力保护其竞争优势，包括通过影响行业管理规则。这可能会创造一种动态，只有最大、资本最充足的公司才有资源来构建最先进的人工智能系统。吴的解决方案是维护多个提供商，让模型和公司相互竞争，而不是让少数参与者主导该领域。“如果我尝试开一个处方，那就是为了促进开放，”吴说，“因为人工智能是一项了不起的技术，我希望它掌握在每个人手中。”但并非所有人都同意开放重量模型将有助于保持这种比赛状态。特别是Hinton，他区分了开源软件和开放重量模型，前者使底层代码可供检查和修改，后者发布了para

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。