哈里和梅根对人工智能的崛起提出了大胆立场。 他们呼吁禁止超级智能系统 引发了深刻的伦理担忧。专家们，包括诺贝尔奖获得者，参与了这一倡议，揭示了对人类构成威胁的议题。该集体发布的声明强调了加强高级技术监管的急迫必要性。 超级智能失控的风险 可能会颠覆我们的社会。
呼吁禁止超级智能人工智能
哈里和梅根，萨塞克斯公爵与公爵夫人，携手人工智能（AI）领域的先驱以及诺贝尔奖获得者，要求对超级智能AI系统的发展实施禁令。这对皇室夫妇是要求在科学共识广泛达成之前，全面停止此类研究，以确保AI的安全且可控发展的声明的签署者之一。
超级智能人工智能的危险
术语“超级智能人工智能”（ASI）指的是在理论上能够在所有认知领域超越人类智能的AI系统。签署者警告称，此类系统投入使用可能会产生灾难性的后果，包括人类失业和公民权利的侵犯。像杰弗里·辛顿和约书亚·本吉奥这样的人物，人工智能的两位代表性人物，强调在形成关于安全的稳固协议之前，應停顿ASI的发展。
对公众担忧的回应
这份声明面向政府、科技公司和立法者，是由未来生活研究所（FLI）发起的，该组织致力于AI的安全性。随着像ChatGPT这样的技术的崛起，AI问题已成为一个重要的政治议题。最近的调查显示，约75%的美国人支持对先进AI进行严格的监管。实际上，六成美国人认为，超级智能AI在其安全性没有得到证明之前不应被创造。
人工智能专家的观点
Meta的首席执行官马克·扎克伯格在去年七月表示，ASI的发展“现在已触手可及”。然而，专家们警告称，关于ASI的言论往往受到竞争利益和对AI领域的大规模投资的驱动。FLI警告称，下一十年内ASI的发展可能会导致一系列严重威胁，从大规模的就业自动化到国家安全风险。
AI行业潜在的监管违规行为
在美国，像OpenAI和谷歌这样的主要AI公司致力于开发所谓的“通用人工智能”（AGI），这一理论状态下的AI在多项认知任务中模仿人类智能。某些专家指出，这一进展虽然低于ASI，但也可能带来存在性风险，因为它可能自我改进并朝着超级智能的水平发展。企业为实现这一目标施加的压力可能对社会造成潜在伤害。
行业参与者及民间社会的反应
哈里和梅根的立场，以及其他专家的观点，揭示了人们对AI能力日益增加的忧虑。科技行业必须回应民间社会提出的担忧。监管的必要性显而易见，尤其是在最近与AI滥用相关的事件之后，例如对英伟达的调查或关于Snapchat聊天机器人的辩论。
超级智能的影响引发了根本伦理问题。随着世界面临AI相关的挑战，这一辩论变得至关重要。美国大多数民众的担忧与专家的观点相一致；必须对快速且不受监管的AI技术发展保持警惕。
关于禁止超级智能系统的常见问题
哈里和梅根为何呼吁禁止开发超级智能AI？
哈里和梅根作为声明的签署者，强调超级智能AI对人类（尤其在安全、就业和民事自由方面）所带来的潜在风险，呼吁在其安全发展上达成科学共识。
什么是超级智能AI（ASI）？
超级智能AI是指在所有认知任务中超越人类智能的人工智能系统，这一技术成就尚未实现。
在哈里和梅根之外，还有谁签署了声明？
签署者包括人工智能的先驱，如杰弗里·辛顿和约书亚·本吉奥，以及公众人物如史蒂夫·沃兹尼亚克、理查德·布兰森和国家安全传奇人物苏珊·赖斯。
哈里和梅根签署的声明的主要目标是什么？
该声明的主要目标是要求禁止开发超级智能AI，直至在其安全上达成广泛的科学共识，并且公众支持其发展。
根据签署者的说法，超级智能AI引发了哪些担忧？
担忧包括失业的风险、对民事自由的侵犯、国家安全的威胁，甚至由于无法控制此类AI系统而可能导致人类灭绝的风险。
关于美国公众对超级智能AI的看法，有什么数据？
一项美国调查表明，约四分之三的公民希望对先进AI实施严格的监管，60%的人表示反对在安全性尚未得到证明之前开发超级智能AI。
为何一些专家批评超级智能AI的发展？
一些专家认为，围绕超级智能AI的讨论更多地与科技公司之间的竞争而非任何即将到来的技术进展相关，他们暗示这些担忧被商业利益放大了。
OpenAI和谷歌等大型AI企业在这一问题上的当前立场是什么？
这些企业明确目标是开发通用人工智能，虽然这比超级智能AI的层次低，但也可能使社会面临存在性风险。
