El nuevo marco de responsabilidad del DHS para el uso de la inteligencia artificial representa un avance significativo frente a amenazas en constante evolución. Estas directrices buscan integrar la IA en la seguridad de las infraestructuras críticas, asegurando así una protección reforzada de los servicios esenciales. La movilización de actores privados, públicos y de la sociedad civil resulta necesaria para contrarrestar de manera efectiva los riesgos asociados con la IA.
Responsabilidades claras para la IA garantizan la seguridad y la eficiencia operativa de las infraestructuras vitales.
Una cooperación esencial entre sectores, en materia de IA, es necesaria para asegurar resultados tangibles y duraderos.
Integrar la IA es asegurar el futuro de los servicios de los cuales toda la sociedad depende diariamente.
El marco del DHS para la inteligencia artificial
El Departamento de Seguridad Nacional (DHS) anunció recientemente una nueva directiva para reforzar la seguridad de las infraestructuras críticas integrando la inteligencia artificial (IA). Este documento, titulado “Roles and Responsibilities Framework for Artificial Intelligence in Critical Infrastructure”, propone una serie de responsabilidades voluntarias para los diferentes actores de los 16 sectores de infraestructuras críticas en los Estados Unidos.
Enfocados en responsabilidades concretas
Las responsabilidades definidas en esta directiva se distribuyen entre cinco grupos principales: proveedores de infraestructura en la nube y tecnologías de la información, desarrolladores de IA, propietarios y operadores de infraestructuras críticas, sociedad civil y sector público. Este marco busca establecer una colaboración eficaz y garantizar un uso seguro de la IA en las infraestructuras esenciales.
Cuestiones abordadas por las directrices
Las directrices cubren una amplia gama de temas, incluidos los entornos en la nube, el diseño de modelos y sistemas de IA, la gobernanza de datos, así como las consideraciones de despliegue. Se presta especial atención a la supervisión del uso de la IA dentro de las infraestructuras críticas. El marco ha sido elaborado con la ayuda del Comité de Seguridad y Soberanía de la IA del DHS.
Compromiso de la industria
El secretario del DHS, Alejandro Mayorkas, subrayó el compromiso intensivo de la industria en el desarrollo de este marco. Según él, el documento no se limita a teorías abstractas, sino que constituye una guía práctica destinada a ser implementada para garantizar la seguridad y la protección de las infraestructuras.
Los riesgos asociados con la IA
La Agencia de Ciberseguridad e Infraestructura (CISA) ha identificado tres categorías de riesgos asociados con la IA para las infraestructuras críticas: ataques que utilizan la IA, aquellos que se dirigen a su uso y fallas relacionadas con el diseño y la implementación. Estos desafíos requieren una vigilancia aumentada, ya que los servicios esenciales dependen del correcto funcionamiento de la IA.
Recomendaciones para el sector público
Para las agencias gubernamentales, el marco recomienda asegurar que las entidades privadas protejan adecuadamente los derechos de los individuos y las comunidades. Los gobiernos deberían aprovechar la oportunidad que brinda la ley para avanzar en normas de IA. Esto se traduce en una obligación de defender los derechos fundamentales mientras se fomenta la innovación.
Los proyectos piloto del DHS
El DHS también ha promovido sus proyectos piloto relacionados con la IA. Estas iniciativas han demostrado capacidades notables para avanzar en las misiones del DHS, como el uso de IA generativa para capacitar a los agentes de inmigración. Este proyecto se ha dedicado exclusivamente a la formación, sin impacto en las decisiones de elegibilidad.
El marco ante cambios políticos
A pesar de las preocupaciones sobre el futuro de las directrices dentro del gobierno federal, Mayorkas insiste en la permanencia de este marco. La dirección debe adherirse a prácticas respaldadas por los miembros de la comisión de seguridad de la IA, asegurando así coherencia en la implementación de las recomendaciones.
Integración y flexibilidad de los modelos
Otro proyecto piloto del DHS ha permitido a las Investigaciones de Seguridad Nacional aprovechar modelos lingüísticos extensos para mejorar la eficacia de los informes. Estos modelos de código abierto ofrecen la flexibilidad necesaria para experimentar y evaluar su efectividad. Este enfoque innovador podría convertirse en un modelo para otras agencias.
Lecciones aprendidas para el futuro
Las lecciones aprendidas de los proyectos piloto, como el de la Agencia Federal para el Manejo de Emergencias (FEMA), demuestran la importancia de
un retorno de experiencia de los usuarios. Esto muestra la necesidad de sensibilizar a los actores locales sobre la IA, lo cual es esencial para integrar estas tecnologías en los procesos existentes.
Preguntas frecuentes sobre las responsabilidades prácticas de la IA para asegurar las infraestructuras críticas del DHS
¿Cuáles son las principales responsabilidades que el DHS propone para el uso de la IA en infraestructuras críticas?
El DHS ha definido responsabilidades distribuidas entre cinco grupos: los proveedores de infraestructura en la nube, los desarrolladores de IA, los propietarios y operadores de infraestructuras críticas, la sociedad civil y el sector público, para garantizar un uso seguro de la IA en los 16 sectores de infraestructuras críticas de los Estados Unidos.
¿Cómo ha desarrollado el DHS sus directrices para la IA en materia de seguridad de infraestructuras críticas?
Las directrices han sido elaboradas en colaboración con el Consejo de Seguridad y Soberanía de la IA del DHS, que incluye representantes de importantes empresas tecnológicas, así como miembros de la sociedad civil y representantes gubernamentales, asegurando así un enfoque práctico y realizable.
¿Qué riesgos asociados con la IA identifica el DHS para las infraestructuras críticas?
El DHS ha identificado tres categorías principales de riesgos asociados con la IA para las infraestructuras críticas: ataques que utilizan la IA, ataques dirigidos al uso de la IA y fallos en el diseño e implementación de sistemas de IA.
¿Cómo debería utilizar el sector público la IA de acuerdo con el marco del DHS?
El sector público debe garantizar que las entidades del sector privado protejan los derechos de los individuos y las comunidades, mientras utilizan la IA de manera responsable para mejorar el funcionamiento de las infraestructuras críticas y evitando cualquier uso que pueda resultar en resultados discriminatorios.
¿El marco del DHS impone obligaciones legales para el uso de la IA en el sector privado?
Las directrices propuestas por el DHS son principalmente voluntarias y buscan fomentar las mejores prácticas. Sin embargo, también permiten a las agencias gubernamentales utilizar la ley y la regulación para promover las normas de IA mientras protegen los derechos fundamentales de los individuos.
¿Qué beneficios espera obtener el DHS de la adopción de sus directrices relacionadas con la IA?
El DHS busca fortalecer la seguridad y la protección de las infraestructuras críticas al armonizar las prácticas de IA, facilitando así el intercambio de información y la colaboración entre el gobierno y el sector privado para preparar y proteger mejor estas infraestructuras contra las amenazas.
¿Por qué es crucial que los propietarios de infraestructuras críticas comprendan las vulnerabilidades relacionadas con la IA?
Comprender estas vulnerabilidades es esencial para los propietarios y operadores de infraestructuras críticas, ya que les ayuda a responder eficazmente a las amenazas potenciales y a garantizar la continuidad de los servicios de los cuales el público depende diariamente.
