人工智能实验室需要内部审计员-但也许他们应该先关上前门

上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结在Amodei的计划周围，该计划已迅速成为新兴人工智能安全推动的核心支柱。但可能有一个更简单、更有效的解决方案隐藏在人们的视线中。互联网安全专家表示，实验室需要专注于日志和权限等网络安全基础知识，应用与人类用户相同的严格防御措施。它不像第三方审计和协调工作那么令人兴奋，但它最终可能会更有效。“在我看来，他们似乎在外包，”Luta Security首席执行官凯蒂·穆苏里斯（Katie Moussouris）在谈到Amedei的提议时告诉TechCrunch。“从我的角度来看，说[第三方审计]是解决方案是一个奇怪的提议。微软表示，这就像我们不编写值得信赖的计算备忘录，而是放慢开发速度一样。”这份备忘录由时任微软首席执行官比尔·盖茨于2002年撰写，呼吁他的员工在一系列广为人知的计算机蠕虫接管了当时新兴的企业系统后确保他们的软件可靠和安全。随着新技术的价值和风险变得越来越清晰，人工智能行业可能正处于类似的转折点。虽然一致性仍然是一个重要问题，但从明年开始担任加州大学伯克利分校教授的人工智能研究员Sayash Kapoor认为，“与一致性投资相比，控制权的边际投资更有可能有效。我们认为这些事件表明，尽管有已知技术，但公司内部缺乏对人工智能控制的重视。”引发这些担忧的事件是

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。