美国国土安全部（DHS）关于使用人工智能的新责任框架在应对不断变化的威胁方面代表了一项重大进展。这些指导方针旨在将人工智能纳入关键基础设施的安全中，从而加强对基本服务的保护。调动私营部门、公共部门和公民社会的力量对于有效应对与人工智能相关的风险是必要的。
人工智能的明确责任确保关键基础设施的安全和运营效率。
各领域之间的合作至关重要，以确保人工智能的实质性和可持续成果。
整合人工智能就是确保社会每天依赖的服务的未来安全。
DHS的人工智能框架
国土安全部（DHS）最近宣布了一项新指令，旨在通过整合人工智能（AI）来增强关键基础设施的安全。该文件标题为“关键基础设施中的人工智能角色与责任框架”，提出了一系列自愿承担的责任，适用于美国16个关键基础设施领域的各参与者。
关注实际责任
本指令中定义的责任分为五个主要组别：云基础设施和计算服务提供商、人工智能开发者、关键基础设施的拥有者和运营商、公民社会和公共部门。该框架旨在建立有效的合作，确保人工智能在关键基础设施中的安全使用。
指导方针中涉及的问题
这些指导方针涵盖了广泛的主题，包括云环境、人工智能模型和系统的设计、数据治理，以及部署考虑。特别关注人工智能在关键基础设施中的使用监控。该框架的制定得到了DHS人工智能安全委员会的协助。
行业承诺
DHS秘书亚历杭德罗·马约卡斯（Alejandro Mayorkas）强调了行业在该框架开发中的密切参与。他说，该文件并不仅限于抽象理论，而是一个旨在实施的实用指南，以确保基础设施的安全和保障。
与人工智能相关的风险
网络安全和基础设施安全局（CISA）已识别出与关键基础设施相关的三类人工智能风险：使用人工智能的攻击、针对其使用的攻击，以及设计和实施中的失败。这些挑战需要高度警惕，因为基本服务依赖于人工智能的正常运行。
对公共部门的建议
对于政府机构，框架建议确保私人实体适当保护个人和社区的权利。各州政府应该利用法律所提供的机会来推动人工智能标准。这意味着在促进创新的同时，必须捍卫基本权利。
DHS的试点项目
DHS还推广了其关于人工智能的试点项目。这些倡议证明了在推进DHS任务方面的卓越能力，例如，使用生成性人工智能对移民官员进行培训。该项目仅专注于培训，对资格决定没有影响。
框架应对政策变化
尽管对联邦政府内指导方针的未来存在担忧，马约卡斯坚持这一框架的持久性。领导层必须遵循得到人工智能安全委员会成员支持的做法，从而确保实施建议的一致性。
模型的整合与灵活性
DHS的另一个试点项目使国土安全调查局利用广泛的语言模型来提高报告的效率。这些开源模型提供了必要的灵活性，以便进行实验和评估效果。这种创新方法可能成为其他机构的榜样。
未来的经验教训
从试点项目中获得的教训，例如来自联邦应急管理局（FEMA）的项目，显示出用户反馈的重要性。这表明需要提高当地参与者对人工智能的认识，这是将这些技术融入现有流程的关键。
有关DHS在保护关键基础设施中实践人工智能责任的常见问题解答
DHS为关键基础设施中人工智能的使用提出了哪些主要责任？
DHS已将责任分配给五个群体：云基础设施提供商、人工智能开发者、关键基础设施的所有者和运营商、公民社会以及公共部门，以确保在美国16个关键基础设施领域安全使用人工智能。
DHS是如何制定其关键基础设施安全领域人工智能指导方针的？
这些指导方针是在DHS人工智能安全委员会的协助下制定的，该委员会包括重要技术公司的代表，以及公民社会成员和政府代表，从而确保了务实和可行的方法。
DHS识别出的与关键基础设施相关的人工智能风险有哪些？
DHS识别出与关键基础设施相关的三类主要人工智能风险：使用人工智能的攻击、针对人工智能使用的攻击以及人工智能系统设计和实施中的故障。
公共部门应如何根据DHS的框架使用人工智能？
公共部门必须确保私营部门保护个人和社区的权利，同时负责任地使用人工智能，以改善关键基础设施的运作，并避免可能导致歧视性结果的任何使用。
DHS的框架对私营部门的人工智能使用是否 imposes 法律义务？
DHS提出的指导方针主要是自愿的，旨在鼓励最佳实践。然而，它也允许政府机构使用法律和监管来推动人工智能标准，同时保护个人的基本权利。
DHS希望从其人工智能指导方针的采取中获得哪些好处？
DHS旨在通过统一人工智能的实践，增强关键基础设施的安全和保障，从而促进政府与私营部门之间的信息共享与合作，以更好地为这些基础设施应对和保护威胁。
关键基础设施所有者理解与人工智能相关的脆弱性为何至关重要？
了解这些脆弱性对关键基础设施的所有者和运营商至关重要，因为这有助于他们有效应对潜在威胁，确保公众每日依赖的服务的持续性。
