El gobierno británico no logra inscribir el uso de la IA en el registro obligatorio

Publié le 28 noviembre 2024 à 08h10
modifié le 28 noviembre 2024 à 08h11

La no inscripción de los sistemas de IA por parte del gobierno británico plantea interrogantes acerbos sobre la transparencia y la responsabilidad. La ausencia de regulación en un sector donde ya se utilizan tecnologías que influyen en millones de vidas divide a los expertos. Las autoridades deben actuar rápidamente para establecer un marco claro y evitar que esta situación se convierta en un verdadero colapso tecnológico. Las consecuencias de tal omisión afectan a áreas cruciales como la seguridad pública, los derechos individuales y la gestión de recursos. La urgencia de una inscripción se vuelve primordial para garantizar una adopción informada de la inteligencia artificial en los servicios públicos.

Ausencia de inscripción de los sistemas de IA

Ningún departamento de Whitehall ha registrado el uso de sistemas de inteligencia artificial (IA) desde que el gobierno anunció que esto se convertiría en obligatorio. Esta falta de inscripción suscita inquietudes, con algunos advirtiendo que el sector público navega a ciegas ante la implementación de tecnologías algorítmicas que impactan a millones de vidas.

Uso actual de la IA

El gobierno ya utiliza la IA para informar decisiones relacionadas con los pagos de beneficios, la aplicación de la inmigración y otros temas críticos. Se han otorgado contratos a varias agencias públicas para servicios relacionados con la IA, como un contrato de reconocimiento facial con un valor potencial de hasta 20 millones de libras esterlinas, lo que reaviva los temores sobre el monitoreo biométrico masivo.

Inscripción limitada de sistemas algorítmicos

Hasta la fecha, solamente nueve sistemas algorítmicos han sido sometidos a un registro público, mientras que numerosos programas de IA utilizados en el sistema de protección social, en el Ministerio del Interior o por fuerzas policiales, permanecen no declarados. Esta escasez de información es aún más preocupante dado que el gobierno declaró en febrero que el uso de este registro se convertiría en una exigencia para todos los departamentos gubernamentales.

Riesgos asociados a una adopción no regulada

Expertos advierten sobre los peligros de una adopción no crítica de la IA. Ejemplos recientes muestran que sistemas informáticos han fallado en producir los resultados esperados, como se observó con el software Horizon de Post Office. El espectro de una mala ejecución también pesa sobre otras herramientas de IA que actualmente están en fase de pruebas.

Llamado a la transparencia

Peter Kyle, el secretario de Estado de ciencia y tecnología, reconoció que el sector público no ha dado suficiente importancia a la transparencia que rodea el uso de algoritmos por parte del gobierno. Afirmó que si el gobierno utiliza estas tecnologías, el público tiene derecho a saber cómo se aplican, subrayando la importancia de una mayor visibilidad.

Preocupaciones planteadas por grupos de defensa de los derechos

Big Brother Watch, un grupo de defensa de los derechos de la privacidad, informó que la asignación del contrato de reconocimiento facial a la policía, a pesar de las advertencias de parlamentarios sobre la falta de regulaciones, subraya la ausencia de transparencia del gobierno en materia de IA. Las tecnologías algorítmicas utilizadas de manera secreta pueden comprometer los derechos de datos de los ciudadanos.

Consecuencias de una falta de transparencia

El Instituto Ada Lovelace advirtió recientemente que si los sistemas de IA pueden facilitar la gestión administrativa, también pueden erosionar la confianza del público y reducir los beneficios si las previsiones que generan son discriminatorias o ineficaces.

Estado del registro nacional

Desde finales de 2022, solamente se han registrado tres algoritmos a nivel nacional. Este registro incluye un sistema utilizado por el Cabinet Office para identificar archivos digitales, una cámara alimentada por IA para analizar pasos peatonales en Cambridge, y un sistema para analizar las opiniones de los pacientes sobre los servicios del NHS.

Contratos de IA otorgados recientemente

Según Tussell, se han cerrado 164 contratos que mencionan IA con organismos públicos desde febrero. Empresas tecnológicas, como Microsoft y Meta, fomentan enérgicamente la adopción de sus sistemas de IA a través del gobierno. Google Cloud financió un informe que sugiere que un mayor uso de la IA generativa podría generar hasta 38 mil millones de libras en ahorros en el sector público para 2030.

Ejemplos de uso de la IA por parte del gobierno

Departamento de Trabajo y Pensiones

El Departamento de Trabajo y Pensiones (DWP) utiliza IA generativa para analizar diariamente más de 20,000 documentos para resumir la correspondencia relevante. Este enfoque permite compartir información crucial con los agentes encargados de tomar decisiones.

Departamento del Interior

El Home Office utiliza un sistema de aplicación de la inmigración alimentado por IA. Este sistema, percibido por algunos como un “asistente robot”, influye en decisiones de retorno de individuos a su país de origen. Aunque el gobierno lo presenta como basado en reglas, suscita inquietudes sobre la responsabilidad humana en cada decisión.

Uso por la policía

Las fuerzas policiales emplean software de reconocimiento facial para identificar a sospechosos. Esto ha provocado preocupaciones sobre la transformación de las calles británicas en verdaderos campos de vigilancia tecnológica.

Colaboración con el NHS

NHS England ha otorgado un contrato de 330 millones de libras a Palantir para crear una nueva plataforma de datos. Esta asociación ha suscitado inquietudes sobre la privacidad de los pacientes, aunque Palantir asegura que el control de los datos permanece en manos de sus clientes.

Desarrollo de chatbots

Se está probando un chatbot alimentado por IA para ayudar a los usuarios a navegar por el sitio gov.uk. Este proyecto, desarrollado por el servicio digital del gobierno, utiliza la tecnología ChatGPT de OpenAI.

Preguntas frecuentes sobre la inscripción de la IA por parte del gobierno británico

¿Por qué no ha inscrito el gobierno británico el uso de la IA en el registro obligatorio?
El gobierno anunció que la inscripción sería obligatoria, pero hasta ahora, ningún departamento ha registrado el uso de sistemas de IA, lo que suscita preocupaciones sobre la transparencia y el control de los algoritmos utilizados en el sector público.
¿Cuáles son las consecuencias de la falta de inscripción de los sistemas de IA?
La falta de inscripción expone al público a gobernanzas opacas, donde se toman decisiones que influyen en millones de ciudadanos sin control ni comprensión, lo que hace a la sociedad vulnerable a sesgos y errores potenciales en el uso de las tecnologías.
¿Qué sistemas de IA están siendo utilizados actualmente por el gobierno británico sin inscripción?
A pesar de millones de contratos otorgados para servicios de IA, solo nueve sistemas de IA han sido registrados, dejando programas en áreas como bienestar e inmigración no documentados.
¿Qué partes del gobierno británico utilizan tecnologías de IA sin transparencia?
Diversos departamentos, incluyendo el Cabinet Office, el Home Office y el Departamento de Trabajo y Pensiones, utilizan sistemas de IA para tareas críticas como la ejecución de decisiones de inmigración y controles de fraude, sin hacer públicos estos usos.
¿Cómo afecta la transparencia en el uso de la IA a la confianza del público?
La transparencia es esencial para que el público se sienta seguro sobre el uso de sus datos. Sin información clara, la confianza disminuye, lo que puede llevar a reticencias a aceptar la adopción de la IA en los servicios públicos.
¿Qué medidas planea tomar el gobierno para asegurar la inscripción de la IA?
El gobierno ha afirmado que la transparencia y la inscripción de sistemas de IA se volverán obligatorias, pero los detalles específicos sobre la implementación de estas medidas siguen siendo difusos y aún no se han concretado.
¿Cuál es la opinión de los expertos sobre el estado actual de la IA en el sector público?
Los expertos subrayan que la falta de inscripción adecuada constituye un riesgo mayor, que puede llevar a decisiones injustas y a la erosión de la confianza pública, además de llamados a una mayor transparencia en el uso de estas tecnologías.
¿Hay ejemplos concretos de problemas debidos a la falta de regulaciones sobre la IA?
Sí, incidentes como los errores del software Horizon de Post Office son testimonio de los peligros de un despliegue no regulado, resultando en graves consecuencias para los individuos afectados.
¿Qué acciones puede tomar el público respecto al uso de la IA por parte del gobierno?
El público puede exigir responsabilidades a los representantes elegidos y promover una legislación que exija la inscripción y la transparencia de los sistemas de IA utilizados en el sector público.

actu.iaNon classéEl gobierno británico no logra inscribir el uso de la IA en...

Design : Adobe comparte sus visiones creativas para el año 2025

découvrez les visions créatives d'adobe pour 2025, où innovation et design se rencontrent pour façonner l'avenir. plongez dans les tendances émergentes et les idées inspirantes qui transformeront le paysage du design.

La feroz batalla por destronar a Nvidia como rey de los chips de IA

découvrez les enjeux de la lutte acharnée entre les géants de la technologie pour rivaliser avec nvidia, leader incontesté des puces d'intelligence artificielle. analyse des stratégies, des innovations et des défis qui façonnent cette bataille féroce et déterminent l'avenir du secteur.

Amazon lanza Nova, un impresionante conjunto de herramientas de IA generativa

découvrez nova, la nouvelle suite d'outils d'ia générative lancée par amazon, qui révolutionne la création de contenu avec des solutions innovantes et performantes. plongez dans l'avenir de la technologie avec des fonctionnalités avancées pour stimuler votre créativité.

AWS coloca la experiencia del cliente en el centro de sus nuevos anuncios sobre IA generativa

découvrez comment aws met l'accent sur l'expérience client dans ses récentes annonces concernant l'intelligence artificielle générative, en intégrant des solutions innovantes pour transformer les interactions et répondre aux besoins des utilisateurs.
découvrez comment l'intelligence artificielle transforme les revenus des créateurs de contenu dans les domaines de la musique et de l'audiovisuel. analyse des opportunités et des défis que cette technologie révolutionnaire apporte aux artistes et aux professionnels du secteur.
découvrez comment l'énergie novatrice des startups redéfinit le paysage technologique, avec des insights du responsable de google au royaume-uni sur l'émergence de l'intelligence artificielle. plongez dans les tendances qui transforment l'industrie et les opportunités offertes par l'ia pour stimuler la croissance et l'innovation.