Der britische Technologieminister Peter Kyle räumte kürzlich ein, dass es in Regierungsbehörden an Transparenz beim Einsatz von künstlicher Intelligenz (KI) und Algorithmen mangelt, was bei der Öffentlichkeit Besorgnis auslöst.
Seit der Ankündigung der Regierung, die Registrierung aller KI-Systeme in allen Ministerien verpflichtend zu machen, hat keine einzige Behörde im Whitehall diese Registrierung abgeschlossen. Dies hat zu Warnungen vor einem „blinden“ Vorgehen der öffentlichen Hand bei der Implementierung von Algorithmen geführt, die das Leben von Millionen Menschen beeinflussen.
Bildquelle: Das Bild wurde mit KI generiert, Lizenzgeber: Midjourney
Derzeit setzt die Regierung KI in verschiedenen Bereichen ein, darunter Sozialleistungen und Einwanderungsdurchsetzung. Aufzeichnungen zufolge haben öffentliche Einrichtungen Dutzende Verträge mit Technologieunternehmen für KI- und Algorithmusdienste abgeschlossen. So vergab das Innenministerium kürzlich einen Vertrag über Gesichtserkennungssoftware im Wert von bis zu 20 Millionen Pfund, was Bedenken hinsichtlich einer „massenhaften biometrischen Überwachung“ auslöste. Bislang wurden jedoch nur neun Algorithmensysteme im öffentlichen Register erfasst, darunter keine KI-Programme aus dem Sozialsystem, dem Innenministerium oder der Polizei.
Experten warnen vor den potenziellen Gefahren, die ein Mangel an kritischer Auseinandersetzung mit dem KI-Einsatz mit sich bringen kann. Das Kabinettsbüro, die Stadt Cambridge und der NHS haben derzeit nur eine sehr begrenzte Anzahl an registrierten Algorithmensystemen. Trotzdem wurden seit Februar dieses Jahres 164 Verträge mit öffentlichen Einrichtungen abgeschlossen, die KI betreffen, was die hohe Nachfrage nach dieser Technologie zeigt.
Kyle erklärte, dass die Öffentlichkeit ein Recht darauf habe zu wissen, wie die Regierung Algorithmen einsetzt, und versprach, die Transparenz zu verbessern. Die Datenschutzorganisation Big Brother Watch wies darauf hin, dass die mangelnde Transparenz der Regierung beim Einsatz von KI-Technologien die Datenrechte der Öffentlichkeit gefährden könnte. Das Ada Lovelace Institute warnte kürzlich davor, dass KI-Systeme zwar den Verwaltungsaufwand zu reduzieren scheinen, aber das Vertrauen der Öffentlichkeit untergraben könnten, wenn ihre Ergebnisse diskriminierend oder ungültig sind.
Derzeit sind nur drei Algorithmen im nationalen Register erfasst: zur Identifizierung digitaler Aufzeichnungen, zur Analyse von Fußgängerüberwegen und zur Auswertung von Patientenbewertungen der NHS-Dienstleistungen. Technologieunternehmen wie Microsoft und Google Cloud werben aktiv für ihre KI-Systeme und behaupten, dass ein breiterer KI-Einsatz enorme Einsparungen für die öffentliche Hand bringen könnte. Kyle nannte diese Technologie ebenfalls als potenziell revolutionär für Regierungsdienste.
Der Einsatz von KI in verschiedenen Regierungsbehörden nimmt immer mehr zu. So verwendet beispielsweise das Ministerium für Arbeit und Altersvorsorge generative KI zur Verarbeitung großer Datenmengen, um Betrug und Fehler bei Sozialhilfeanträgen automatisch zu erkennen. Das Innenministerium setzt ein KI-gesteuertes System zur Einwanderungsdurchsetzung ein, obwohl die Regierung betont, dass es sich nicht um ein typisches Machine-Learning-System handelt.
Wichtigste Punkte:
🔍 Die britische Regierung hat kein einziges KI-System registriert, was bei der Öffentlichkeit Bedenken hinsichtlich der Transparenz auslöst.
💼 KI-Technologie wird bereits in großem Umfang bei Sozialleistungen und der Einwanderungsdurchsetzung eingesetzt, die Aufzeichnungen sind jedoch sehr spärlich.
📈 Experten warnen vor den potenziellen Gefahren von KI und fordern mehr Transparenz und Regulierung.
