El reglamento europeo sobre la inteligencia artificial, conocido como AI Act, representa un avance significativo en la regulación tecnológica. El 2 de febrero, entran en vigor medidas preliminares, señalando un nuevo capítulo en la gobernanza de la IA. La prohibición de usos considerados inaceptables, como las herramientas de « puntuación social », se relaciona con las cuestiones fundamentales de protección de los derechos individuales y transparencia algorítmica. Estos ambiciosos objetivos buscan enmarcar un sector en plena transformación, planteando interrogantes sobre su impacto en los actores del mercado.
Reglamento Europeo sobre la Inteligencia Artificial
El reglamento europeo sobre la inteligencia artificial, conocido bajo el nombre de AI Act, entró en vigor el 2 de febrero de 2024. A pocos días de la Cumbre sobre la acción en IA en París, se implementan las primeras medidas de este ambicioso texto. Este reglamento pretende ser una respuesta regulatoria a los desafíos planteados por las tecnologías de la inteligencia artificial.
Medidas Prohibidas por el AI Act
Los usos de la IA considerados inaceptables serán ahora prohibidos. Entre estas prácticas, el uso de software de puntuación social, como los que se están implementando en China, estará estrictamente prohibido. El AI Act también busca bloquear el uso de IA para policía predictiva, utilizada para perfilar a los individuos, y proscribir el reconocimiento de emociones en entornos laborales o escolares.
El texto también prohíbe cualquier explotación de las vulnerabilidades de los individuos, así como el uso de técnicas manipulativas. El reconocimiento facial en tiempo real en espacios públicos y la categorización biométrica de personas también están prohibidos. Estas medidas reflejan la voluntad de las autoridades europeas de proteger los derechos fundamentales de los ciudadanos mientras regulan las prácticas tecnológicas riesgosas.
Debate sobre la Implementación
La aplicación integral del AI Act se llevará a cabo de manera progresiva. Las medidas directrices, así como las obligaciones específicas relativas a los modelos de IA de uso general, entrarán en vigor el 1er de agosto de 2024. Esto afecta a los grandes modelos de generación de texto e imagen, como ChatGPT o Gemini (Google).
Las discusiones sobre los aspectos técnicos del texto y su implementación continúan. La forma en que las empresas se conformarán, así como las posibles impugnaciones legales, son temas de intenso debate. Este diálogo se intensificará durante reuniones notables con la presencia de jefes de Estado y participantes como Elon Musk y Sam Altman.
Obligaciones de Transparencia
Los modelos de IA de uso general estarán sujetos a obligaciones de transparencia. Las empresas deberán proporcionar información detallada sobre su documentación técnica y la naturaleza de los datos de entrenamiento. Los modelos de IA más grandes también deberán someterse a auditorías de seguridad para evaluar los riesgos asociados a su despliegue.
Estas obligaciones buscan garantizar el desarrollo y uso responsables de la inteligencia artificial, asegurando al mismo tiempo un nivel adecuado de seguridad para los usuarios. El AI Act se inscribe así en un marco de regulaciones internas de la Unión Europea, destinado a mejorar la coexistencia de las tecnologías de IA con los derechos individuales.
Reacciones y Perspectivas
La reacción de las empresas ante la implementación de estas nuevas regulaciones ya es palpable. Muchas expresan preocupaciones sobre su capacidad para adaptarse a los requisitos del AI Act. Actores de la sociedad civil, así como asociaciones empresariales, están preocupados por las repercusiones que esto podría tener en la innovación y la competitividad a nivel mundial. Analice los artículos disponibles para aprender más sobre el estado de las discusiones en curso.
También persisten interrogantes sobre el impacto real de estas medidas en el desarrollo tecnológico. La cuestión del equilibrio entre regulación e innovación estará en el centro de los debates. Los primeros comentarios sobre las medidas en vigor servirán de termómetro para evaluar el futuro de las regulaciones relacionadas con la inteligencia artificial en la UE.
FAQ sobre el Reglamento Europeo sobre la Inteligencia Artificial: AI Act
¿Qué es el Reglamento Europeo sobre la Inteligencia Artificial (AI Act)?
El Reglamento Europeo sobre la Inteligencia Artificial, también conocido como AI Act, busca establecer un marco jurídico para el desarrollo y uso de sistemas de inteligencia artificial en la Unión Europea, asegurando la protección de los derechos fundamentales y la seguridad de los usuarios.
¿Cuándo entra en vigor el Reglamento AI Act?
Las primeras disposiciones del Reglamento AI Act entraron en vigor el 2 de febrero de 2024, con secciones adicionales que se implementarán progresivamente, el primer de agosto de 2024 para ciertos modelos de IA de uso general.
¿Qué tipos de usos de la IA están prohibidos por el AI Act?
El Reglamento prohíbe ciertos usos inaceptables de la IA, como los sistemas de puntuación social, el reconocimiento facial en tiempo real en espacios públicos, y la manipulación de personas a través de técnicas subliminales.
¿Cómo garantiza el Reglamento AI Act la transparencia de los modelos de IA?
Los modelos de IA clasificados como ‘de uso general’ deben cumplir con requisitos de transparencia proporcionando documentación técnica clara y exponiendo los datos utilizados para su entrenamiento.
¿Cuáles son los impactos para las empresas que desarrollan o utilizan IA?
Las empresas deberán cumplir con las nuevas obligaciones del Reglamento, especialmente en materia de transparencia, auditorías de seguridad y gestión de riesgos, bajo pena de sanciones.
¿Qué medidas se toman para supervisar los sistemas de IA?
El Reglamento impone auditorías de seguridad periódicas para los modelos de IA de uso general, con el fin de evaluar los riesgos potenciales, incluidos los riesgos informáticos.
¿Cómo influye el Reglamento AI Act en el desarrollo futuro de la IA en Europa?
Establece normas que buscan fomentar un desarrollo responsable de la IA, garantizando la protección de los usuarios mientras se mantiene la competitividad a nivel global.
¿Las fuerzas del orden están exentas de las restricciones impuestas por el Reglamento AI Act?
Existen ciertas excepciones para las fuerzas del orden, especialmente sobre el uso de tecnología de IA en el contexto de la aplicación de la ley, pero estas también deben cumplir con normas estrictas.
¿Cuáles son los próximos pasos después de la entrada en vigor del Reglamento AI Act?
Se seguirá una fase de implementación progresiva, con adaptaciones para diferentes categorías de IA y una supervisión continua para ajustar el marco regulatorio según las evoluciones tecnológicas.
 que acaba de activarse. Conozca cómo esta legislación afecta el desarrollo y uso de la IA en Europa, las obligaciones de las empresas y las cuestiones éticas asociadas a la innovación tecnológica.){kind=link}