在科技迅速发展的同时，对人工智能的明智治理的必要性愈发显著。*制定明智的政策*变得至关重要，以确保这一创新的利益能够得到公平分享。经验丰富的专家们根据证据制定新的创新策略，旨在规范人工智能的扩展，同时揭示其潜在风险。*稳健的政策必须依赖于可靠的数据*来指导社会影响的决策。目标处于一种跨学科的方法的核心，旨在在不断发展的技术环境中将创新与责任结合起来。
伯克利研究人员的建议
来自伯克利大学的研究人员与其他知名机构合作，提出旨在基于科学证据制定人工智能（AI）政策的建议。由Rishi Bommasani撰写的文章发表在《科学》杂志上，提出了应对越来越强大人工智能的机会与挑战的政策机制。
人工智能政策的指导原则
研究人员建议，政策应推动人工智能的创新，同时确保其利益能够以负责任和公平的方式实现。为了实现这一目标，政策决策必须基于证据。必须确保科学理解和系统分析能够为政策提供信息，并且政策可以促使新证据的产生。
将证据应用于人工智能的挑战
一个主要关切在于在人工智能的背景下定义和应用可信的证据标准。评估证据的标准在不同的政策领域中各不相同，这使得基于证据的政策特别复杂。专家警告不要滥用演变证据来为不作为辩护。
推荐建设证据基础的机制
研究人员建议采取多项机制来丰富证据基础，以支持有效的政策。应鼓励在人工智能产品投放市场前对其进行评估。大型人工智能企业应向政府和公众提供更多关于其安全实践的信息。
监督与保护
另一个关键方面是对人工智能的风险进行部署后的跟踪，需在良好意图进行的独立研究中建立保护措施。此外，加强社会防御来应对明显识别的风险在没有人工智能能力的情况下也是至关重要的。
证据与政策之间的对齐
专家指出，人工智能的范围可能导致证据与政策之间的不对齐。尽管部分证据与人工智能直接相关，但大量信息对该领域的涉及却是部分的。因此，设计良好的政策应整合能够反映科学理解的要素，而不是媒体的夸大。
需要科学共识
随着人工智能的快速发展，促使形成科学共识是必不可少的。专家认为，以证据为基础的方法的对齐是管理该领域根本性紧张关系的第一步。丰富多元的辩论对于确保政策的民主制定至关重要。
参考文献与引用
被引用的研究人员和专家的工作已引起加州立法者的关注，他们目前正在审查关于人工智能政策的建议原则。该文件已被加州议会成员和民间组织广泛引用。
为了深入了解该主题，可以参考多篇文章，包括关于医疗中算法的重要性以及关于Nvidia近期有关评估人工智能芯片的进展。
总之，制定人工智能政策需要一种深思熟虑、基于证据的方法。多个参与者，包括公共当局和研究人员，都可以为这一关键过程做出贡献。
关于基于证据的人工智能负责政策发展的常见问题
基于证据的人工智能政策的重要性是什么？
基于证据的政策确保关于人工智能的决策基于科学数据和系统分析，这有助于最大限度地发挥利益，同时最小化相关风险。
对于人工智能政策制定者的关键建议是什么？
政策制定者应鼓励在模型推出前对其进行评估，要求人工智能公司的安全实践透明，并加强对人工智能部署后影响的监管。
如何定义在人工智能背景下什么算作可信的证据？
定义可信的证据涉及考虑不同政策领域内数据的科学严谨性和相关性，因为证据标准可能差异显著。
为什么加速生成关于人工智能的新证据至关重要？
加速生成新证据使政策能够迅速适应技术变化，识别新风险并确定合适的干预措施。
不同的参与者如何参与负责的人工智能政策制定？
包括企业、政府和民间社会在内的所有参与者都可以通过分享数据、支持研究和参与公开讨论来合作，共同探讨人工智能问题。
不当治理人工智能的风险是什么？
选择不当的治理可能导致负面的社会结果、自动决策中的偏见，以及公众对人工智能技术的信任丧失。
人工智能与民主辩论之间的关系是什么？
民主辩论对于确保人工智能政策反映社会和伦理关切至关重要，同时得到确凿证据和客观分析的支持。
人工智能公司如何确保其实践的透明度？
公司可以通过定期发布其系统安全的报告、参与外部审计和参与协作治理倡议来回应这一要求。
关于人工智能政策的出版建议如何影响当前立法？
这些建议提供了一个知情的框架，帮助立法者撰写人工智能法律，从而促进既保护社会又鼓励技术创新的政策。
