人工智能的循环自我完善毕竟可能不会来得这么快

人工智能行业目前最大胆的承诺是，人工智能将很快自我改进，几乎不需要人类监督。LLM已经可以编写代码、生成用于训练的合成数据并优化它们运行的计算机芯片。爆炸性的人工智能进展预测，研究人员所说的即将到来。但a表明我们可能需要一段时间才能到达那里。它背后的研究人员发现，人工智能代理尚未能够进行开放式的人工智能研究自由形式的调查，这些调查没有明确的答案，需要判断和品味，这可能是构建自我改进人工智能不可或缺的一部分。由普林斯顿大学的彼得·柯吉斯（Peter Kirgis）和萨亚什·卡普尔（Sayash Kapoor）领导的多机构研究小组，发现人工智能代理可以解决进行人工智能研究所需的工程问题，但缺乏判断力和创造力来产生顶级机器学习会议接受的论文水平的原创研究。这一差距表明，人工智能研究自动化的一些时间表可能领先于证据。大多数关于智能体如何自动化人工智能研究的现有研究都评估了它们通过可检查的答案完成狭窄任务的能力，例如解决工程问题或针对基准进行后训练小语言模型。但人工智能研究取得进展还需要开放式思维--选择一组假设，决定什么证据可以解决问题，或者知道何时重新开始。为了测试智能体的此类技能，该研究的研究人员提出了一种名为“影子评估”的新评估方法，该方法要求人工智能回答高质量未发表论文中的研究问题。研究人员要求Anthropic的Claude Opus 4.8在名为OpenClaw的开源软件上运行，来解决此类问题，本例来自提交给著名机器学习会议NeurIPS 2026的两篇论文。第一个问题是大型语言模型的“人物角色”，

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。