Le gouvernement britannique ne parvient pas à inscrire l’utilisation de l’IA sur le registre obligatoire

Publié le 28 novembre 2024 à 08h03
modifié le 28 novembre 2024 à 08h03
Hugo Mollet
Hugo Mollet
Rédacteur en chef pour la rédaction média d'idax, 36 ans et dans l'édition web depuis plus de 18 ans. Passionné par l'IA depuis de nombreuses années.

La non-inscription des systèmes d’IA par le gouvernement britannique soulève des interrogations acerbes sur la transparence et la responsabilité. L’absence de régulation dans un secteur où des technologies influencent déjà des millions de vies divise les experts. Les autorités doivent agir rapidement pour instaurer un cadre clair et éviter que cette situation ne dégénère en un véritable crash technologique. Les conséquences d’une telle omission touchent des domaines cruciaux tels que la sécurité publique, les droits individuels et la gestion des ressources. L’urgence d’une inscription devient primordiale pour garantir une adoption éclairée de l’intelligence artificielle dans les services publics.

Absence d’inscription des systèmes d’IA

Aucun département de Whitehall n’a enregistré l’usage des systèmes d’intelligence artificielle (IA) depuis que le gouvernement a annoncé que cela deviendrait obligatoire. Cette absence d’inscription suscite des inquiétudes, certains avertissant que le secteur public navigue à l’aveuglette face à l’implémentation de technologies algorithmiques impactant des millions de vies.

Utilisation actuelle de l’IA

L’IA est déjà employée par le gouvernement pour éclairer des décisions relatives aux paiements de prestations, à l’application de l’immigration et bien d’autres enjeux critiques. Des contrats ont été attribués à divers organismes publics pour des services liés à l’IA, tel qu’un contrat de reconnaissance faciale d’une valeur potentielle pouvant atteindre 20 millions de livres sterling, relançant ainsi les craintes de surveillance biométrique de masse.

Inscription limitée des systèmes algorithmiques

À ce jour, seulement neuf systèmes algorithmiques ont été soumis à un registre public, tandis que de nombreux programmes d’IA utilisés dans le système de protection sociale, au sein du Home Office ou par les forces de police, restent non déclarés. Cette pénurie d’informations est d’autant plus préoccupante que le gouvernement a déclaré en février que l’utilisation de ce registre deviendrait une exigence pour tous les départements gouvernementaux.

Risques associés à une adoption non régulée

Des experts mettent en garde contre les dangers d’une adoption non critique de l’IA. Des exemples récents montrent que des systèmes informatiques ont échoué à produire les résultats escomptés, comme cela a été observé avec le logiciel Horizon de la Poste. Le spectre d’une mauvaise exécution plane également sur d’autres outils d’IA actuellement en phase d’essais.

Appel à la transparence

Peter Kyle, le secrétaire d’État à la science et à la technologie, a reconnu que le secteur public n’a pas accordé suffisamment d’importance à la transparence entourant l’utilisation des algorithmes par le gouvernement. Il a affirmé que si le gouvernement utilise ces technologies, le public a le droit de savoir comment elles sont appliquées, soulignant l’importance d’une visibilité accrue.

Préoccupations soulevées par des groupes de défense des droits

Big Brother Watch, un groupe de défense des droits à la vie privée, a signalé que l’attribution du contrat de reconnaissance faciale aux policiers, malgré les avertissements de parlementaires concernant le manque de régulations, souligne le manque de transparence du gouvernement en matière d’IA. Les technologies algorithmiques utilisées de manière secrète peuvent compromettre les droits des données des citoyens.

Conséquences d’un manque de transparence

L’Institute Ada Lovelace a récemment averti que si les systèmes d’IA peuvent faciliter la gestion administrative, ils peuvent également éroder la confiance du public et réduire les bénéfices si les prévisions qu’ils engendrent sont discriminatoires ou inefficaces.

État du registre national

Depuis la fin de l’année 2022, seulement trois algorithmes ont été enregistrés au niveau national. Ce registre comprend un système utilisé par le Cabinet Office pour identifier des archives numériques, une caméra alimentée par l’IA pour analyser les passages piétons à Cambridge, et un système pour analyser les avis des patients sur les services de l’NHS.

Nouveaux contrats d’IA récemment attribués

Selon Tussell, 164 contrats mentionnant l’IA ont été conclus avec des organismes publics depuis février. Des entreprises technologiques, telles que Microsoft et Meta, encouragent vigoureusement l’adoption de leurs systèmes d’IA à travers le gouvernement. Google Cloud a financé un rapport suggérant qu’une plus grande utilisation de l’IA générative pourrait générer jusqu’à 38 milliards de livres d’économies dans le secteur public d’ici 2030.

Exemples d’utilisation de l’IA par le gouvernement

Département du Travail et des Pensions

Le Département du Travail et des Pensions (DWP) recourt à l’IA générative pour analyser quotidiennement plus de 20 000 documents afin de résumer la correspondance pertinente. Cette approche permet de partager des informations cruciales avec les agents en charge des décisions.

Département de l’Intérieur

Le Home Office utilise un système d’application de l’immigration alimenté par l’IA. Ce système, perçu par certains comme un “robot assistant”, influe sur des décisions de retour d’individus vers leur pays d’origine. Bien que le gouvernement le présente comme basé sur des règles, il soulève des inquiétudes concernant la responsabilité humaine dans chaque décision.

Utilisation par la police

Des forces policières emploient des logiciels de reconnaissance faciale pour identifier des suspects. Cela a provoqué des préoccupations quant à la transformation des rues britanniques en véritables camps de surveillance technologique.

Collaboration avec le NHS

NHS England a engagé un contrat de 330 millions de livres avec Palantir pour créer une nouvelle plate-forme de données. Ce partenariat a suscité des inquiétudes concernant la vie privée des patients, même si Palantir assure que le contrôle des données reste entre les mains de ses clients.

Développement de chatbots

Un chatbot alimenté par l’IA est en cours d’essai pour aider les utilisateurs à naviguer sur le site gov.uk. Ce projet, développé par le service numérique du gouvernement, utilise la technologie ChatGPT d’OpenAI.

Foire aux questions sur l’inscription de l’IA par le gouvernement britannique

Pourquoi le gouvernement britannique n’a-t-il pas inscrit l’utilisation de l’IA sur le registre obligatoire ?
Le gouvernement a annoncé que l’inscription serait obligatoire, mais jusqu’à présent, aucun département n’a enregistré l’utilisation de systèmes d’IA, ce qui suscite des inquiétudes quant à la transparence et au contrôle des algorithmes utilisés dans le secteur public.
Quelles sont les conséquences de l’absence d’inscription des systèmes d’IA ?
L’absence d’inscription expose le public à des gouvernances opaques, où des décisions influençant des millions de citoyens sont prises sans contrôle ni compréhension, rendant la société vulnérable à des biais et à des erreurs potentielles dans l’utilisation des technologies.
Quels systèmes d’IA sont actuellement utilisés par le gouvernement britannique sans inscription ?
Malgré des millions de contrats attribués pour des services d’IA, seulement neuf systèmes d’IA ont été enregistrés, laissant des programmes dans des domaines tels que le bien-être et l’immigration non documentés.
Quelles parties du gouvernement britanniques utilisent des technologies d’IA sans transparence ?
Divers départements, y compris le Cabinet Office, le Home Office et le Département du Travail et des Pensions, utilisent des systèmes d’IA pour des tâches critiques comme l’exécution de décisions d’immigration et des contrôles de fraudes, sans rendre ces usages publics.
Comment la transparence dans l’utilisation de l’IA affecte-t-elle la confiance du public ?
La transparence est essentielle pour que le public se sente en sécurité concernant l’utilisation de ses données. Sans information claire, la confiance diminue, ce qui peut mener à des réticences à accepter l’adoption de l’IA dans les services publics.
Quelles mesures le gouvernement prévoit-il de prendre pour assurer l’inscription de l’IA ?
Le gouvernement a affirmé que la transparence et l’inscription des systèmes d’IA deviendraient obligatoires, mais des détails spécifiques sur la mise en œuvre de ces mesures restent flous et n’ont pas encore été concrétisés.
Quelle est l’opinion des experts sur l’état actuel de l’IA dans le secteur public ?
Les experts soulignent que l’absence d’inscription adéquate constitue un risque majeur, pouvant mener à des décisions inéquitables et à l’érosion de la confiance publique, ainsi que des appels à une plus grande transparence dans l’utilisation de ces technologies.
Y a-t-il des exemples concrets de problèmes dus à un manque de réglementations sur l’IA ?
Oui, des incidents comme les erreurs du logiciel Horizon de Post Office témoignent des dangers d’un déploiement non régulé, entraînant de graves conséquences pour les individus impliqués.
Quelles actions peuvent être entreprises par le public concernant l’utilisation de l’IA par le gouvernement ?
Le public peut demander des comptes aux représentants élus et promouvoir une législation qui exige l’inscription et la transparence des systèmes d’IA utilisés dans le secteur public.

Hugo Mollet
Hugo Mollet
Rédacteur en chef pour la rédaction média d'idax, 36 ans et dans l'édition web depuis plus de 18 ans. Passionné par l'IA depuis de nombreuses années.
actu.iaNewsLe gouvernement britannique ne parvient pas à inscrire l'utilisation de l'IA sur...

Design : Adobe partage ses visions créatives pour l’année 2025

découvrez les visions créatives d'adobe pour 2025, où innovation et design se rencontrent pour façonner l'avenir. plongez dans les tendances émergentes et les idées inspirantes qui transformeront le paysage du design.

La bataille féroce pour détrôner Nvidia en tant que roi des puces d’IA

découvrez les enjeux de la lutte acharnée entre les géants de la technologie pour rivaliser avec nvidia, leader incontesté des puces d'intelligence artificielle. analyse des stratégies, des innovations et des défis qui façonnent cette bataille féroce et déterminent l'avenir du secteur.

Amazon lance Nova, une suite impressionnante d’outils d’IA générative

découvrez nova, la nouvelle suite d'outils d'ia générative lancée par amazon, qui révolutionne la création de contenu avec des solutions innovantes et performantes. plongez dans l'avenir de la technologie avec des fonctionnalités avancées pour stimuler votre créativité.

AWS place l’expérience client au cœur de ses nouvelles annonces sur l’IA générative

découvrez comment aws met l'accent sur l'expérience client dans ses récentes annonces concernant l'intelligence artificielle générative, en intégrant des solutions innovantes pour transformer les interactions et répondre aux besoins des utilisateurs.
découvrez comment l'intelligence artificielle transforme les revenus des créateurs de contenu dans les domaines de la musique et de l'audiovisuel. analyse des opportunités et des défis que cette technologie révolutionnaire apporte aux artistes et aux professionnels du secteur.
découvrez comment l'énergie novatrice des startups redéfinit le paysage technologique, avec des insights du responsable de google au royaume-uni sur l'émergence de l'intelligence artificielle. plongez dans les tendances qui transforment l'industrie et les opportunités offertes par l'ia pour stimuler la croissance et l'innovation.