Die Nichtregistrierung von KI-Systemen durch die britische Regierung wirft scharfe Fragen zur Transparenz und Verantwortung auf. Das Fehlen von Regulierungen in einem Sektor, in dem Technologien bereits Millionen von Leben beeinflussen, spaltet die Experten. Die Behörden müssen schnell handeln, um einen klaren Rahmen zu schaffen und zu vermeiden, dass diese Situation in einen echten technologischen Absturz mündet. Die Folgen einer solchen Unterlassung betreffen entscheidende Bereiche wie die öffentliche Sicherheit, die individuellen Rechte und das Ressourcenmanagement. Die Dringlichkeit einer Registrierung wird entscheidend, um eine informierte Einführung von künstlicher Intelligenz in den öffentlichen Diensten zu gewährleisten.
Fehlende Registrierung von KI-Systemen
Kein Department von Whitehall hat die Nutzung von künstlicher Intelligenz (KI) registriert, seit die Regierung angekündigt hat, dass dies obligatorisch werden würde. Diese fehlende Registrierung weckt Besorgnis, da einige warnen, dass der öffentliche Sektor blind durch die Implementierung algorithmischer Technologien navigiert, die Millionen von Leben beeinflussen.
Aktuelle Nutzung von KI
Die KI wird bereits von der Regierung eingesetzt, um Entscheidungen über Sozialleistungen, die Durchsetzung von Einwanderung und viele andere kritische Themen zu informieren. Verträge wurden verschiedenen öffentlichen Einrichtungen für KI-bezogene Dienstleistungen vergeben, darunter ein Vertrag über Gesichtserkennung im Wert von bis zu 20 Millionen Pfund Sterling, was die Sorgen über biometrische Massenüberwachung neu entfacht.
Eingeschränkte Registrierung algorithmischer Systeme
Bis heute wurden nur neun algorithmische Systeme in ein öffentliches Register aufgenommen, während viele KI-Programme, die im Sozialsystem, im Home Office oder von der Polizei eingesetzt werden, nicht gemeldet sind. Diese Informationsknappheit ist umso besorgniserregender, da die Regierung im Februar erklärte, dass die Nutzung dieses Registers eine Voraussetzung für alle Regierungsabteilungen werden würde.
Risiken einer unregulierten Einführung
Experten warnen vor den Gefahren einer unkritischen Einführung von KI. Jüngste Beispiele zeigen, dass Computersysteme nicht die erwarteten Ergebnisse geliefert haben, wie beim Postsoftware Horizon beobachtet wurde. Der Schatten einer schlechten Ausführung liegt auch über anderen KI-Werkzeugen, die sich derzeit in der Testphase befinden.
Aufruf zur Transparenz
Peter Kyle, der Staatssekretär für Wissenschaft und Technologie, erkannte an, dass der öffentliche Sektor der Transparenz, die die Nutzung von Algorithmen durch die Regierung umgibt, nicht genügend Bedeutung beigemessen hat. Er erklärte, dass, wenn die Regierung diese Technologien einsetzt, die Öffentlichkeit das Recht hat zu wissen, wie sie angewendet werden, und betonte die Bedeutung einer erhöhten Sichtbarkeit.
Besorgnis von Menschenrechtsgruppen
Big Brother Watch, eine Datenschutzorganisation, berichtete, dass die Vergabe des Gesichtserkennungsvertrags an die Polizei, trotz der Warnungen von Parlamentariern bezüglich fehlender Regulierungen, den Mangel an Transparenz der Regierung in Bezug auf KI unterstreiche. Algorithmen, die im Verborgenen eingesetzt werden, können die Datenrechte der Bürger gefährden.
Folgen mangelnder Transparenz
Das Ada Lovelace Institute warnte kürzlich, dass während KI zur Verwaltung von Abläufen beitragen kann, sie auch das Vertrauen der Öffentlichkeit untergraben und die Vorteile mindern kann, wenn die von ihnen erzeugten Prognosen diskriminierend oder ineffektiv sind.
Stand des nationalen Registers
Seit Ende 2022 wurden nur drei Algorithmen national registriert. Dieses Register umfasst ein System, das vom Cabinet Office zur Identifizierung digitaler Archive verwendet wird, eine KI-gesteuerte Kamera zur Analyse von Fußgängerüberwegen in Cambridge und ein System zur Analyse von Patientenbewertungen der NHS-Dienste.
Kürzlich vergebene KI-Verträge
Laut Tussell wurden seit Februar 164 Verträge, die KI erwähnen, mit öffentlichen Einrichtungen abgeschlossen. Technologieunternehmen wie Microsoft und Meta fördern vehement die Einführung ihrer KI-Systeme in der Regierung. Google Cloud finanzierte einen Bericht, der nahelegt, dass eine größere Nutzung von generativer KI bis zu 38 Milliarden Pfund Einsparungen im öffentlichen Sektor bis 2030 generieren könnte.
Beispiele für die Nutzung von KI durch die Regierung
Departement für Arbeit und Pensions
Das Departement für Arbeit und Pensions (DWP) nutzt generative KI, um täglich über 20.000 Dokumente zu analysieren, um relevante Korrespondenz zusammenzufassen. Dieser Ansatz ermöglicht es, wichtige Informationen mit den für Entscheidungen zuständigen Beamten zu teilen.
Innenministerium
Das Home Office nutzt ein KI-gesteuertes Einwanderungssystem. Dieses System, von einigen als „Roboterassistent“ wahrgenommen, beeinflusst Entscheidungen über die Rückführung von Personen in ihr Herkunftsland. Obwohl die Regierung es als regelbasiert darstellt, wirft es Bedenken hinsichtlich der menschlichen Verantwortung bei jeder Entscheidung auf.
Polizeinutzung
Polizeibehörden verwenden Gesichtserkennungssoftware zur Identifizierung von Verdächtigen. Dies hat Bedenken ausgelöst, dass britische Straßen zu echten technologischen Überwachungszonen werden.
Zusammenarbeit mit dem NHS
NHS England hat einen Vertrag über 330 Millionen Pfund mit Palantir abgeschlossen, um eine neue Datenplattform zu erstellen. Diese Partnerschaft hat Bedenken hinsichtlich der Privatsphäre der Patienten geweckt, auch wenn Palantir versichert, dass die Kontrolle über die Daten in den Händen seiner Kunden bleibt.
Entwicklung von Chatbots
Ein KI-gesteuerter Chatbot wird getestet, um den Nutzern zu helfen, die Website gov.uk zu navigieren. Dieses Projekt, das vom digitalen Dienst der Regierung entwickelt wurde, nutzt die ChatGPT-Technologie von OpenAI.
Häufige Fragen zur Registrierung von KI durch die britische Regierung
Warum hat die britische Regierung die Nutzung von KI nicht im verpflichtenden Register eingetragen?
Die Regierung hat angekündigt, dass die Registrierung verpflichtend sein wird, aber bisher hat kein Department die Nutzung von KI-Systemen registriert, was Besorgnis über die Transparenz und Kontrolle der im öffentlichen Sektor verwendeten Algorithmen auslöst.
Welche Folgen hat das Fehlen einer Registrierung von KI-Systemen?
Das Fehlen einer Registrierung setzt die Öffentlichkeit der Intransparenz aus, wo Entscheidungen, die Millionen von Bürgern beeinflussen, ohne Kontrolle oder Verständnis getroffen werden, wodurch die Gesellschaft anfällig für Verzerrungen und potenzielle Fehler bei der Nutzung von Technologien wird.
Welche KI-Systeme werden derzeit ohne Registrierung von der britischen Regierung eingesetzt?
Trotz von Millionen von vergebenen Verträgen für KI-Dienstleistungen sind nur neun KI-Systeme registriert, sodass Programme in Bereichen wie Wohlfahrt und Einwanderung nicht dokumentiert sind.
Welche Teile der britischen Regierung nutzen KI-Technologien ohne Transparenz?
Verschiedene Departements, einschließlich des Cabinet Office, des Home Office und des Departements für Arbeit und Pensions, nutzen KI-Systeme für kritische Aufgaben wie die Durchführung von Einwanderungsentscheidungen und Betrugsprüfungen, ohne diese Nutzungen der Öffentlichkeit offen zu legen.
Wie beeinflusst Transparenz bei der Nutzung von KI das Vertrauen der Öffentlichkeit?
Transparenz ist entscheidend, damit die Öffentlichkeit sich sicher in Bezug auf die Nutzung ihrer Daten fühlt. Ohne klare Informationen sinkt das Vertrauen, was zu Vorbehalten gegenüber der Einführung von KI in den öffentlichen Diensten führen kann.
Welche Maßnahmen plant die Regierung, um die Registrierung von KI sicherzustellen?
Die Regierung hat erklärt, dass Transparenz und die Registrierung von KI-Systemen obligatorisch werden, aber spezifische Details zur Umsetzung dieser Maßnahmen bleiben vage und wurden noch nicht konkretisiert.
Wie beurteilen Experten den aktuellen Stand der KI im öffentlichen Sektor?
Experten betonen, dass das Fehlen angemessener Registrierungen ein erhebliches Risiko darstellt, das zu ungerechten Entscheidungen und zur Erosion des öffentlichen Vertrauens führen kann, sowie Aufrufe zu größerer Transparenz in der Nutzung dieser Technologien.
Gibt es konkrete Beispiele für Probleme, die durch fehlende Regulierungen für KI verursacht wurden?
Ja, Vorfälle wie die Fehler der Horizon-Software der Post Office zeigen die Gefahren einer unregulierten Bereitstellung auf, die schwerwiegende Folgen für die betroffenen Personen nach sich ziehen kann.
Welche Maßnahmen können von der Öffentlichkeit in Bezug auf die Nutzung von KI durch die Regierung ergriffen werden?
Die Öffentlichkeit kann gewählte Vertreter zur Rechenschaft ziehen und eine Gesetzgebung fördern, die die Registrierung und Transparenz der im öffentlichen Sektor verwendeten KI-Systeme fordert.
