介绍智力时代

“相信这些羊皮纸屏障，抵御权力精神的侵蚀就足够了吗？” - 詹姆斯·麦迪逊， 联邦党人第48号 我们很高兴推出 智力时代， OpenAI新战略未来团队的博客。我们是一个小团队，共同目标是回答一个首要问题：如何重组自由社会，以保护个人权利和代理权，同时适应变革性人工智能的出现？ 像这样的问题有时被称为 权力集中 更广泛的AI安全和政策社区内的风险。我们的团队的理念是，从长远来看，这一类风险是最大、最严重、在概念上最具挑战性的风险。为什么？ 现代国家是资本和商品所有者、政治权力持有者和人民等各种权力中心之间长期、不平衡讨价还价过程的产物。最根本的是，政治和军事权力取决于 劳动 .掌握政治权力就是拥有对合法力量的垄断。在整个人类历史上，这种垄断由士兵和我们今天所说的“警察”，以及庞大的军民官僚机构组成，当然，还有许多技术工具的补充，但从根本上来说，这些官僚机构是由人类运作的，需要人类的支持来维持行动。整个机构--士兵、工具、随之而来的官僚机构--都是由从必须愿意支付的人类的工资或生产中征收的税收提供资金的。权力的核心取决于许多人类的大规模合作和同意。大卫·休谟在观察到政治领导人“除了[流行]意见之外没有什么可以支持他们”时，简洁地表达了这一常常隐含的假设。 但也许不再了。现实世界自治系统的进步可能很快意味着各国将能够在国内和国际上投射力量，而不依赖首席运营官

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。