Deloitte rembourse l’État australien après un rapport défaillant à 440 000 $. Cette situation révèle la portée des erreurs liées à l’utilisation de l’intelligence artificielle dans des évaluations critiques. Les défaillances comprenaient des *inexactitudes flagrantes*, blâmant en partie l’IA générative employée pour la rédaction. Un sénateur a mis en lumière un « *problème d’intelligence humaine* » spécifique à la firme, soulevant des interrogations sur les pratiques du secteur des conseils. Les entreprises doivent désormais reconsidérer les *méthodes de travail* des cabinets de conseil.
Deloitte rembourse l’État australien
Deloitte a annoncé son intention de rembourser partiellement le gouvernement fédéral australien suite à des erreurs constatées dans un rapport commandé à hauteur de 440 000 dollars. Cette décision intervient après que la société de conseil a reconnu avoir intégré une intelligence artificielle générative dans le processus de rédaction du document.
Confirmations du Département de l’Emploi
Le Département des Emplois et des Relations au Travail (DEWR) a confirmé que Deloitte remboursera la dernière tranche de financement dans le cadre de son contrat. Les modalités de cette transaction seront publiées une fois finalisées. Cette annonce a été suivie d’accusations d’un sénateur du parti travailliste, qui a qualifié la situation de « problème d’intelligence humaine » au sein de la société de consulting.
Analyse des rapports et constatations
Deloitte était en charge d’examiner le cadre de conformité ciblé ainsi que son système informatique, qui sert à automatiser les pénalités dans le système d’aide sociale. Le rapport initial, publié le 4 juillet, a mis en lumière des problèmes généralisés, notamment un manque de « traçabilité » entre les règles du cadre et la législation qui le sous-tend. De plus, la société a relevé des « défauts du système » impliquant des hypothèses punitives concernant la non-conformité des participants.
Une révision a été re-publiée vendredi sur le site du DEWR. Cette action a été motivée par la révélation, rapportée par l’Australian Financial Review en août, que plusieurs erreurs étaient présentes, incluant des références et citations inexistantes. Dr Christopher Rudge, un académique de l’Université de Sydney, a souligné que le rapport contenait des « hallucinations », une manifestation où des modèles d’IA tentent de combler des lacunes ou interprètent mal les données.
Révisions du rapport et impact
Dans la version mise à jour du rapport, Deloitte a noté des modifications immédiates concernant un « petit nombre de corrections » appliquées aux références et aux notes de bas de page. Toutefois, le DEWR a précisé qu’aucune modification n’a été apportée aux recommandations formulées dans le document. Un porte-parole a souligné que le contenu substantiel du rapport initial a été préservé, et que les recommandations demeurent inchangées.
Deloitte a également précisé dans son appendice que l’utilisation de l’intelligence artificielle générative a été intégrée à certains dominants du rapport. Cette annonce évoque l’utilisation d’un outil basé sur le modèle de langage Azure OpenAI GPT – 4o, sous licence du DEWR et hébergé sur l’infrastructure Azure du ministère.
Réactions et réflexions critiques
Malgré ces révisions, Deloitte a maintenu que l’intelligence artificielle n’était pas à l’origine des erreurs relevées dans son rapport. La société a défendu les conclusions initiales de l’analyse, précisant que les modifications n’affectent pas les résultats ou les recommandations du rapport. Un porte-parole de Deloitte a mentionné que l’affaire a été résolue directement avec le client.
Dr Rudge a émis des réserves quant à la légitimité du rapport dans son ensemble, tout en soulignant que ses conclusions concordent avec d’autres preuves largement étayées. La sénatrice Deborah O’Neill a qualifié la situation d' »alarmante », insinuant que l’IA semble avoir remplacé une véritable expertise humaine. En outre, ses commentaires suggèrent que ceux qui envisagent de contracter ces entreprises doivent poser des questions sur la vérification des compétences non liées à l’IA.
Les investigations menées par l’Australian Financial Review ont révélé plusieurs références incorrectes dans le rapport original, notamment des études fantômes par des professeurs de l’Université de Sydney et de l’Université de Lund en Suède. Un faux renvoi à une décision judiciaire dans une affaire de remboursement a également été découvert, mettant en lumière des manques dans la vérification des sources utilisées.
Les implications de ce cas soulèvent des inquiétudes sur le rôle grandissant de l’IA dans la production de contenu de qualité, ainsi que sur la nécessité de garder un standard élevé dans les services offerts par les sociétés de conseil. La montée en puissance de l’intelligence artificielle dans ce secteur requiert une réflexion approfondie sur les moyens de préserver l’intégrité et la précision des rapports fournis aux gouvernements et aux citoyens.
Foire aux questions courantes
Pourquoi Deloitte rembourse-t-il une partie du montant à l’État australien ?
Deloitte rembourse une partie des 440 000 $ à l’État australien en raison d’une série d’erreurs dans un rapport qu’ils ont produit pour le ministère des relations de l’emploi et des lieux de travail. Le rapport a utilisé l’intelligence artificielle générative, ce qui a conduit à des imprécisions.
Quelles erreurs ont été identifiées dans le rapport de Deloitte ?
Le rapport présentait des problèmes tels qu’un manque de traçabilité entre les règles du cadre de conformité et la législation, des défauts de système, et des références inexistantes à des sources légitimes.
Comment l’utilisation de l’intelligence artificielle a-t-elle affecté le rapport ?
L’utilisation de l’intelligence artificielle a conduit à des hallucinations, où l’IA a rempli des lacunes dans les données, causant des interprétations erronées et la création de références fictives dans le rapport initial.
Quelles actions a prises le ministère des Relations de l’Emploi concernant le rapport corrigé ?
Le ministère des Relations de l’Emploi a confirmé que des corrections mineures aux références et aux notes de bas de page ont été apportées, mais il n’y a eu aucune modification aux recommandations contenues dans le rapport.
Deloitte a-t-il reconnu que l’IA était responsable des erreurs dans le rapport ?
Deloitte n’a pas clairement attribué les erreurs du rapport original à l’utilisation de l’intelligence artificielle, bien qu’ils aient ajouté une mention de cette utilisation dans l’appendice de la version corrigée du rapport.
Quelles recommandations Deloitte a-t-il maintenues dans son rapport mis à jour ?
Les recommandations de l’analyse indépendante ont été maintenues telles quelles; l’intégrité des conclusions n’a pas été altérée, selon les déclarations faites par le ministère.
Comment réagir aux rapports produits par des sociétés de conseil comme Deloitte ?
Il est conseillé aux clients potentiels de s’assurer que les résultats et les recommandations des rapports sont fondés sur une expertise humaine solide et non uniquement sur des systèmes d’IA.
Quel impact le remboursement de Deloitte pourrait-il avoir sur l’avenir des contrats gouvernementaux avec des sociétés de conseil ?
Ce remboursement pourrait inciter les organismes gouvernementaux à reconsidérer leur dépendance aux sociétés de conseil et à faire des efforts pour vérifier l’expertise humaine au sein de ces firmes.
