人工智能的迅猛崛起引发了关于其社会影响的激烈辩论。研究人员和行业专业人士意识到，必须制定国际规则来规范这项技术。一个专家小组呼吁克服分歧，以建立一个共同的框架。
人工智能的潜在威胁引发了深刻的担忧。不可想象的风险，例如人工疫情或人权侵犯，需要采取预防措施。增强安全性应成为全球共同的优先事项。
呼吁国际监管
在纽约，联合国大会正在进行时，一群人工智能研究人员和专业人士发出紧急呼吁，以对这项新兴技术进行国际管控。他们于9月22日发布了一封公开信，敦促各国政府达成共同规则，以防止人工智能的最具威胁性的使用。
专家眼中的人工智能危险
在他们的信件中，签署者声称，人工智能提供了人类进步的巨大潜力，但同时也认识到其当前的发展轨迹存在前所未有的风险。这些专家要求定义一些障碍，或称红线，以防止行业主要参与者越界。他们强调，制定国际协议以约束被认为危险的发展是必要的。
预防偏差的最小保护措施
签署者指出，这些提案并不是全面的规则体系，而是最小限度的保护措施。这些措施代表的是各国政府应达成一致的最小共同 denominador。他们的目标是限制最紧迫和不可接受的风险，例如引发疫情、传播错误信息或侵犯人权。
研究人员识别的风险
该小组列出了几个主要危险。其中包括因自动化导致的失业增加以及国家安全的威胁。这些问题需要加强警惕，并通过国际协商采取预防措施。各国的合作对于避免与人工智能不受控制的发展相关的灾难性场景至关重要。
学术界和工业界的广泛支持
这封信得到了众多组织的支持，包括人工智能安全中心（CeSIA）、未来社会以及加州大学伯克利分校的人类兼容人工智能中心。还有二十个其他合作伙伴机构也支持这一努力。在签署者中，有杰出的人工智能研究者，如Geoffrey Hinton和Yoshua Bengio，表示了这一呼吁的广度和紧迫性。
国际合作的前例
作者提到了与敏感技术有关的国际合作的先例，引用了核不扩散条约或禁止化学武器公约。这些前例表明，即使是基本的系统框架也能够提前预见潜在的偏差并规范人工智能在全球的的发展。经验显示，国际协议不仅是可能的，而且是有益的。
当前的人工智能情境
目前，许多企业专注于创建一种人工智能（AGI），旨在达到或超过人类的能力。这一追求引发了重大伦理和社会问题。其对经济和社会的影响需要深入讨论，以预见未来的挑战。最近的几篇文章甚至揭示了一些意想不到的故事，例如一位美国人娶了他的人工智能ChatGPT，或一些艺术项目通过模仿吉卜力工作室风格的作品而脱颖而出。
行业中的研究与开发
由NVIDIA等公司取得的进展表明，人工智能领域正在快速发展。在2025年消费电子展上发布的重要公告证明了这一技术日益增长的兴趣。随着市场快速发展，明确的规则变得至关重要，以确保未来的可持续性和道德性。诸如对技术创新的甜蜜偏好的想法反映出需要严格的监管，以防止偏差的发生。
常见问题解答
全球人工智能监管倡议的主要目标是什么？
主要目标是建立一个共同的监管基础，以防止人工智能的危险使用，并确保该技术的安全和伦理发展。
与人工智能相关的主要威胁有哪些？
威胁包括引发疫情、传播错误信息、国家安全受损、失业增加及侵犯人权。
谁发起了这一举措，涉及哪些参与者？
此举得到了多个组织的支持，包括人工智能安全中心（CeSIA）、未来社会和加州大学伯克利分校的兼容人类人工智能中心，以及许多研究人员和行业专业人士。
为什么建立国际人工智能保护措施至关重要？
建立国际保护措施对预见和控制全球人工智能潜在偏差至关重要，从而保护人类免受不利后果。
专家们提出了哪些形式的监管？
专家们呼吁通过国际协议界定“红线”，作为最小保护措施，以规范被认为在人工智能领域存在风险的发展。
国际合作的先例如何能激励这一倡议？
核不扩散条约和禁止化学武器公约等先例表明，国际合作可以有效地控制敏感技术，为预见人工智能等技术潜在偏差提供框架。
科学界在这一监管倡议中扮演什么角色？
科学界通过表达基于专家知识的关切，并呼吁建立适当的标准，以确保人工智能的发展对人类有益，发挥着关键作用。
这一倡议将如何影响人工智能的发展？
该倡议可以引导人工智能朝着更负责任和伦理的实践发展，制定限制最危险选项的规则，同时鼓励对社会有益的创新。
