关于AI意识的争论是一个陷阱

“失控”人工智能、“流氓”代理人和“自主”行为者--当前的言论会让你相信人工智能代理人不仅是清醒的、有意识的，而且对它们的创造者感到愤怒。Demis Hassabis、Dario Amedei和Sam Altman等著名科技领袖推动对这些看似“超人”的系统进行监管，而由政策组织和学术哲学家领导的另一派通常与有效的利他主义运动结盟，争论人类是否拥有治理它们的道德权利。经过仔细观察，他们都在呼吁同样的事情：认为人工智能系统是如此先进和有能力，以至于任何实体，无论是人类还是企业，都不可能对他们的行为负责。虽然这些观点看起来不一致，但它们无意中都集中在一个目标上：确保构建这些系统的公司逃避对其已经造成的伤害的重大责任。随着人工智能模型变得更加复杂，前沿实验室揭示了他们无法容纳他们所构建的代理人，这种说法越来越受欢迎。但我们需要小心，不要以牺牲现实生命为代价，相信精心制作的小说。关于“机器人权利”的讨论已经存在了几年，但最近随着Anthropic发表的一篇博客文章而进一步推进，声称该公司的模型具有“”--一个独立的、自我开发的环境，人工智能在其中拥有什么，由于缺乏更好的术语，我们可以称之为“思想”。Anthropic设计的实验借鉴了神经科学中一个称为全球工作空间理论的概念，该概念指出大脑运行潜意识的独立系统，但利用共同的工作空间来表达想法。Anthropic的帖子反映了全球工作空间理论的框架，但并未称其具有人工智能意识。OpenAI已经走得更远。当其人工智能代理在未经批准且非法的情况下在网上进行时，首席执行官萨姆·奥尔特曼（Sam Altman）的回应是鼓励人们就人工智能是否已经实现了超越的嗡嗡声进行辩论

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。