La no inscripción de los sistemas de IA por parte del gobierno británico plantea interrogantes acerbos sobre la transparencia y la responsabilidad. La ausencia de regulación en un sector donde ya se utilizan tecnologías que influyen en millones de vidas divide a los expertos. Las autoridades deben actuar rápidamente para establecer un marco claro y evitar que esta situación se convierta en un verdadero colapso tecnológico. Las consecuencias de tal omisión afectan a áreas cruciales como la seguridad pública, los derechos individuales y la gestión de recursos. La urgencia de una inscripción se vuelve primordial para garantizar una adopción informada de la inteligencia artificial en los servicios públicos.
Ausencia de inscripción de los sistemas de IA
Ningún departamento de Whitehall ha registrado el uso de sistemas de inteligencia artificial (IA) desde que el gobierno anunció que esto se convertiría en obligatorio. Esta falta de inscripción suscita inquietudes, con algunos advirtiendo que el sector público navega a ciegas ante la implementación de tecnologías algorítmicas que impactan a millones de vidas.
Uso actual de la IA
El gobierno ya utiliza la IA para informar decisiones relacionadas con los pagos de beneficios, la aplicación de la inmigración y otros temas críticos. Se han otorgado contratos a varias agencias públicas para servicios relacionados con la IA, como un contrato de reconocimiento facial con un valor potencial de hasta 20 millones de libras esterlinas, lo que reaviva los temores sobre el monitoreo biométrico masivo.
Inscripción limitada de sistemas algorítmicos
Hasta la fecha, solamente nueve sistemas algorítmicos han sido sometidos a un registro público, mientras que numerosos programas de IA utilizados en el sistema de protección social, en el Ministerio del Interior o por fuerzas policiales, permanecen no declarados. Esta escasez de información es aún más preocupante dado que el gobierno declaró en febrero que el uso de este registro se convertiría en una exigencia para todos los departamentos gubernamentales.
Riesgos asociados a una adopción no regulada
Expertos advierten sobre los peligros de una adopción no crítica de la IA. Ejemplos recientes muestran que sistemas informáticos han fallado en producir los resultados esperados, como se observó con el software Horizon de Post Office. El espectro de una mala ejecución también pesa sobre otras herramientas de IA que actualmente están en fase de pruebas.
Llamado a la transparencia
Peter Kyle, el secretario de Estado de ciencia y tecnología, reconoció que el sector público no ha dado suficiente importancia a la transparencia que rodea el uso de algoritmos por parte del gobierno. Afirmó que si el gobierno utiliza estas tecnologías, el público tiene derecho a saber cómo se aplican, subrayando la importancia de una mayor visibilidad.
Preocupaciones planteadas por grupos de defensa de los derechos
Big Brother Watch, un grupo de defensa de los derechos de la privacidad, informó que la asignación del contrato de reconocimiento facial a la policía, a pesar de las advertencias de parlamentarios sobre la falta de regulaciones, subraya la ausencia de transparencia del gobierno en materia de IA. Las tecnologías algorítmicas utilizadas de manera secreta pueden comprometer los derechos de datos de los ciudadanos.
Consecuencias de una falta de transparencia
El Instituto Ada Lovelace advirtió recientemente que si los sistemas de IA pueden facilitar la gestión administrativa, también pueden erosionar la confianza del público y reducir los beneficios si las previsiones que generan son discriminatorias o ineficaces.
Estado del registro nacional
Desde finales de 2022, solamente se han registrado tres algoritmos a nivel nacional. Este registro incluye un sistema utilizado por el Cabinet Office para identificar archivos digitales, una cámara alimentada por IA para analizar pasos peatonales en Cambridge, y un sistema para analizar las opiniones de los pacientes sobre los servicios del NHS.
Contratos de IA otorgados recientemente
Según Tussell, se han cerrado 164 contratos que mencionan IA con organismos públicos desde febrero. Empresas tecnológicas, como Microsoft y Meta, fomentan enérgicamente la adopción de sus sistemas de IA a través del gobierno. Google Cloud financió un informe que sugiere que un mayor uso de la IA generativa podría generar hasta 38 mil millones de libras en ahorros en el sector público para 2030.
Ejemplos de uso de la IA por parte del gobierno
Departamento de Trabajo y Pensiones
El Departamento de Trabajo y Pensiones (DWP) utiliza IA generativa para analizar diariamente más de 20,000 documentos para resumir la correspondencia relevante. Este enfoque permite compartir información crucial con los agentes encargados de tomar decisiones.
Departamento del Interior
El Home Office utiliza un sistema de aplicación de la inmigración alimentado por IA. Este sistema, percibido por algunos como un “asistente robot”, influye en decisiones de retorno de individuos a su país de origen. Aunque el gobierno lo presenta como basado en reglas, suscita inquietudes sobre la responsabilidad humana en cada decisión.
Uso por la policía
Las fuerzas policiales emplean software de reconocimiento facial para identificar a sospechosos. Esto ha provocado preocupaciones sobre la transformación de las calles británicas en verdaderos campos de vigilancia tecnológica.
Colaboración con el NHS
NHS England ha otorgado un contrato de 330 millones de libras a Palantir para crear una nueva plataforma de datos. Esta asociación ha suscitado inquietudes sobre la privacidad de los pacientes, aunque Palantir asegura que el control de los datos permanece en manos de sus clientes.
Desarrollo de chatbots
Se está probando un chatbot alimentado por IA para ayudar a los usuarios a navegar por el sitio gov.uk. Este proyecto, desarrollado por el servicio digital del gobierno, utiliza la tecnología ChatGPT de OpenAI.
Preguntas frecuentes sobre la inscripción de la IA por parte del gobierno británico
¿Por qué no ha inscrito el gobierno británico el uso de la IA en el registro obligatorio?
El gobierno anunció que la inscripción sería obligatoria, pero hasta ahora, ningún departamento ha registrado el uso de sistemas de IA, lo que suscita preocupaciones sobre la transparencia y el control de los algoritmos utilizados en el sector público.
¿Cuáles son las consecuencias de la falta de inscripción de los sistemas de IA?
La falta de inscripción expone al público a gobernanzas opacas, donde se toman decisiones que influyen en millones de ciudadanos sin control ni comprensión, lo que hace a la sociedad vulnerable a sesgos y errores potenciales en el uso de las tecnologías.
¿Qué sistemas de IA están siendo utilizados actualmente por el gobierno británico sin inscripción?
A pesar de millones de contratos otorgados para servicios de IA, solo nueve sistemas de IA han sido registrados, dejando programas en áreas como bienestar e inmigración no documentados.
¿Qué partes del gobierno británico utilizan tecnologías de IA sin transparencia?
Diversos departamentos, incluyendo el Cabinet Office, el Home Office y el Departamento de Trabajo y Pensiones, utilizan sistemas de IA para tareas críticas como la ejecución de decisiones de inmigración y controles de fraude, sin hacer públicos estos usos.
¿Cómo afecta la transparencia en el uso de la IA a la confianza del público?
La transparencia es esencial para que el público se sienta seguro sobre el uso de sus datos. Sin información clara, la confianza disminuye, lo que puede llevar a reticencias a aceptar la adopción de la IA en los servicios públicos.
¿Qué medidas planea tomar el gobierno para asegurar la inscripción de la IA?
El gobierno ha afirmado que la transparencia y la inscripción de sistemas de IA se volverán obligatorias, pero los detalles específicos sobre la implementación de estas medidas siguen siendo difusos y aún no se han concretado.
¿Cuál es la opinión de los expertos sobre el estado actual de la IA en el sector público?
Los expertos subrayan que la falta de inscripción adecuada constituye un riesgo mayor, que puede llevar a decisiones injustas y a la erosión de la confianza pública, además de llamados a una mayor transparencia en el uso de estas tecnologías.
¿Hay ejemplos concretos de problemas debidos a la falta de regulaciones sobre la IA?
Sí, incidentes como los errores del software Horizon de Post Office son testimonio de los peligros de un despliegue no regulado, resultando en graves consecuencias para los individuos afectados.
¿Qué acciones puede tomar el público respecto al uso de la IA por parte del gobierno?
El público puede exigir responsabilidades a los representantes elegidos y promover una legislación que exija la inscripción y la transparencia de los sistemas de IA utilizados en el sector público.
