Agentische KI in der Verwaltung steht vor einer schwierigen Frage: Worüber sollten Maschinen entscheiden dürfen?

Die Vereinigten Arabischen Emirate gehören seit neun Jahren zu den Vorreitern im Bereich der künstlichen Intelligenz. Im Oktober 2017 wurde eine nationale KI-Strategie ins Leben gerufen, und kurz darauf wurde ein Ministeramt zu deren Überwachung eingerichtet, wobei Omar Sultan Al Olama im Alter von 27 Jahren zum weltweit ersten Staatsminister für künstliche Intelligenz ernannt wurde. Seitdem hat das Land eine Infrastruktur für digitale Identität, eine souveräne Cloud und Datenaustausch entwickelt, deren Aufbau für die meisten Regierungen noch im Gange ist. Der eigentliche Test für agentische KI in der Regierung besteht darin, ob sich dieser Vorsprung in greifbaren Ergebnissen niederschlägt.

Diese Testphase begann in diesem Monat, als über 100 Bundesbeamte an einem Workshop teilnahmen, um den strategischen Teil des agentischen KI-Projekts der VAE auf den Weg zu bringen. Diese nationale Initiative zielt darauf ab, die Hälfte aller Abläufe, Dienstleistungen und Aufgaben der Bundesregierung innerhalb von zwei Jahren auf agentische KI-Modelle umzustellen. Die vom Nationalen Komitee für das Projekt zur agentenbasierten KI organisierte Veranstaltung legte Prioritäten und Zeitpläne für die Umsetzung fest und leitete gleichzeitig die Entwicklung von Rahmenwerken ein, um zu bestimmen, welche staatlichen Aufgaben an KI-Agenten delegiert werden können.

Dieser Klassifizierungsprozess ist von entscheidender Bedeutung. Die VAE verfügen über die erforderliche Rechenleistung und Infrastruktur, darunter ein KI-gestütztes proaktives Leistungssystem, das monatlich über 150 Millionen Datenpunkte überwacht. Bislang hat jedoch noch keine Regierung eine fundierte Methode veröffentlicht, um zwischen Aufgaben zu unterscheiden, die ein autonomes System eigenständig ausführen kann, und solchen, die es lediglich empfehlen sollte.

Huda Al Hashimi, Staatssekretärin für strategische Angelegenheiten im Ministerium für Kabinettsangelegenheiten, bezeichnete den Workshop als den operativen Startschuss für den Einsatz von KI-Modellen in allen Bereichen der Regierungsarbeit. Das Programm umfasst sieben Säulen: Strategie und Projekte, Vorausschau und strategische Informationen, Politik, Strukturen und Governance, Regierungsleistung, globale Wettbewerbsfähigkeit sowie Innovation in der Regierungsarbeit. Die Beamten erörterten zudem Leistungskennzahlen und Strategien zur Vermeidung von Doppelarbeit zwischen den verschiedenen Stellen.

Zwei Ansätze für dasselbe Projekt

Der Workshop orientierte sich an einem Kernprinzip: Menschen führen, KI ermöglicht.

In seinen Ausführungen zur Einführung des Projekts erklärte Scheich Mohammed bin Rashid Al Maktoum, die VAE würden „die erste Regierung der Welt sein, die Agentic-KI-Modelle in großem Umfang“ in allen ihren Sektoren und Betriebsabläufen einsetzt. Er beschrieb Systeme, die in der Lage sind, Betriebsabläufe zu steuern und eigenständige Aktionen ohne menschliches Eingreifen auszuführen. Während die grundlegende Formulierung die autonome Ausführung betont, konzentriert sich die Umsetzungsformulierung auf den Vorrang des Menschen.

Beide Perspektiven können in einem Portfolio aus Tausenden von Aufgaben nebeneinander bestehen, und genau die Kluft zwischen ihnen sollen die Klassifizierungsrahmen überbrücken. Bis zur Veröffentlichung dieser Rahmen bleibt jedoch die Frage der Verantwortlichkeit für die Entscheidungen eines Agenten ungeklärt. Die bisher veröffentlichten Unterlagen behandeln Säulen, Schulungen, Indikatoren und Governance-Strukturen, gehen jedoch nicht darauf ein, was geschieht, wenn ein autonomes System bei einem Bürgerfall einen Fehler begeht, oder wo die Haftung liegt.

Dies ist keine Kritik, die ausschließlich die VAE betrifft. Keine Regierung hat diese Frage bisher beantwortet, da noch keine Regierung zuvor damit konfrontiert war. Der Unterschied besteht darin, dass die VAE die ersten sein werden, die diese Frage in großem Maßstab und innerhalb einer Frist von zwei Jahren beantworten werden.

Das Ausmaß ist der entscheidende Punkt

Die Aufsicht liegt bei Scheich Mansour bin Zayed Al Nahyan, wobei eine Arbeitsgruppe unter dem Vorsitz von Mohammad Al Gergawi, Minister für Kabinettsangelegenheiten, tätig ist. Im Mai genehmigte das Kabinett das erste Paket staatlicher Dienstleistungen, bei denen agentische KI-Tools zum Einsatz kommen, sowie das größte Schulungsprogramm in der Geschichte der Regierung der VAE, das 80.000 Bundesbedienstete – von Ministern bis hin zu neuen Mitarbeitern – umfasst. In derselben Sitzung wurde zudem eine nationale KI-Strategie für das Gesundheitswesen verabschiedet, zusammen mit Rahmenwerken, die digitale Aufzeichnungen zur offiziellen Quelle für zentrale Regierungsdaten machen und vorschreiben, dass Informationen nur einmal erfasst und sicher zwischen den Behörden ausgetauscht werden.

Seitdem wurde das Tempo bewusst gemässigt. Eine Schulungsveranstaltung in Dubai im Juni zog über 300 Teilnehmer aus 50 Bundesbehörden an, mit dem Ziel, innerhalb von 90 Tagen geeignete Dienste und Verfahren für agentische KI zu identifizieren. Ein separater Workshop in diesem Monat, der vom Präsidialamt und dem Ministerium für Kabinettsangelegenheiten organisiert wurde, schulte 600 Mitarbeiter zu denselben Themen.

Warum agentische KI in der Verwaltung über den Golf hinausgeht

Regierungen in ganz Asien und Europa nähern sich derselben Entscheidung von einem gemeinsamen Ausgangspunkt aus an; die meisten verfügen über eine KI-Strategie und eine nationale Stelle, jedoch über keine konkreten Ziele. Die VAE haben konkrete Zahlen und Termine festgelegt, was bedeutet, dass es innerhalb von zwei Jahren öffentliche Belege für die tatsächlichen Auswirkungen agentischer KI auf die Dienstleistungserbringung, den Personalbestand und die Fehlerquoten geben wird.

Niemand sonst ist derzeit verpflichtet, dieses Experiment durchzuführen. Allerdings müssen sie entscheiden, wie sie die Ergebnisse nutzen wollen und ob sie bereit sind, bereits vor Vorliegen dieser Ergebnisse voranzuschreiten.

Die Rahmenwerke zur Aufgabenklassifizierung sind die Dokumente, auf die man achten sollte. Wenn sie veröffentlicht werden, stellen sie den ersten ernsthaften Versuch eines Staates dar, zu definieren, welche Entscheidungen eine Regierung bereit ist, an Maschinen zu delegieren. Alles andere in diesem Programm betrifft Beschaffung und Schulung, also Standardverfahren.

Siehe auch: OpenAI-Präsident fordert Unternehmen auf, ihre KI-Sicherheitsmaßnahmen zu beschleunigen

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Besuchen Sie die „AI & Big Data Expo“, die in Amsterdam, Kalifornien und London stattfindet. Die umfassende Veranstaltung ist Teil der TechEx und findet gemeinsam mit anderen führenden Technologieveranstaltungen statt, darunter die „Cyber Security & Cloud Expo“. Klicken Sie hier für weitere Informationen.

AI News wird von TechForge Media bereitgestellt. Entdecken Sie hier weitere bevorstehende Veranstaltungen und Webinare zum Thema Unternehmenstechnologie.