KI-Tools beschleunigen Rückmeldungen der Regierung, aber Experten warnen vor Risiken

Ein KI-Tool wurde entwickelt, um riesige Mengen an Antworten auf Regierungsbefragungen zu sichten und die öffentliche Meinung genau zu interpretieren.

Der britische Technologieminister Peter Kyle erklärte: „Niemand sollte Zeit mit Aufgaben verschwenden, die KI schneller und effektiver erledigen kann, und es sollten auch keine Millionen an Steuergeldern dafür ausgegeben werden, solche Arbeiten an externe Auftragnehmer auszulagern.

Dieses digitale Tool mit dem passenden Namen „Consult“ hat seine erste große Bewährungsprobe bei der schottischen Regierung erfolgreich bestanden.

Die schottische Regierung stellte Consult vor eine anspruchsvolle erste Aufgabe: die Analyse der öffentlichen Rückmeldungen zur Regulierung nicht-chirurgischer kosmetischer Eingriffe wie Lippenauffüllungen und Laser-Haarentfernung. Die Ergebnisse der KI stimmten weitgehend mit der Analyse der menschlichen Beamten überein.

Die Regierung plant nun, diese Technologie in verschiedenen Abteilungen einzusetzen. Der derzeitige manuelle Prozess ist kostspielig und langsam, wobei oft Millionen von Pfund an externe Auftragnehmer gezahlt werden, nur um die öffentliche Meinung zu analysieren.

Consult ist Teil einer umfassenderen Initiative zur Schaffung einer effizienteren und reaktionsfähigeren britischen Regierung, die in der Lage ist, ihren „Plan für den Wandel“ ohne übermäßige Kosten oder Verzögerungen umzusetzen.

Wie hat sich das System in Schottland bewährt? Consult hat über 2.000 Antworten verarbeitet. Mithilfe generativer KI wurden anhand von sechs zentralen Fragen die wichtigsten Themen und Anliegen aus den Rückmeldungen identifiziert.

Natürlich arbeitete Consult nicht völlig autonom. Experten der schottischen Regierung überprüften und verfeinerten diese ersten Themen. Die KI kategorisierte dann die einzelnen Antworten entsprechend, sodass sich die Beamten auf die Interpretation der Ergebnisse und deren politische Auswirkungen konzentrieren konnten.

Da dies der erste Live-Einsatz von Consult war, überprüfte die schottische Regierung jede einzelne Antwort manuell zur Verifizierung. Die Interpretation schriftlicher Kommentare und deren Kategorisierung kann subjektiv sein; selbst menschliche Analysten sind sich nicht immer einig.

Beim Vergleich der Arbeit von Consult mit der menschlichen Analyse lag die KI in den allermeisten Fällen richtig. Geringfügige Abweichungen änderten nichts am Gesamtverständnis der Hauptanliegen der Öffentlichkeit.

Consult ist Teil einer größeren KI-Suite namens „Humphrey“ – einer Reihe digitaler Tools, die entwickelt wurden, um den Verwaltungsaufwand für Beamte zu reduzieren und die Kosten für Auftragnehmer zu senken. Diese Bemühungen unterstützen eine umfassendere Vision, Technologie zur Rationalisierung öffentlicher Dienstleistungen einzusetzen, mit dem Ziel, Produktivitätssteigerungen in Höhe von 45 Milliarden Pfund für eine agilere Regierung zu erzielen.

„Nach diesen vielversprechenden Ergebnissen wird Humphrey uns helfen, die Kosten der Regierungsführung zu senken und unsere Fähigkeit zu verbessern, Beiträge von Experten und der Öffentlichkeit zu wichtigen Themen zu sammeln und gründlich zu prüfen”, fügte Kyle hinzu.

„Die schottische Regierung hat einen mutigen ersten Schritt getan. Sehr bald werde ich Consult innerhalb von Humphrey in meiner eigenen Abteilung einsetzen, und andere Abteilungen in Whitehall werden folgen – was unsere Arbeit zur Umsetzung des Plans für den Wandel beschleunigen wird.“

In Schottland sagte Gesundheitsministerin Jenni Minto: „Das Tool war sehr hilfreich, um der schottischen Regierung zu helfen, schneller zu verstehen, was die Menschen mitteilen wollten und wie vielfältig ihre Ansichten waren.

Durch den Einsatz dieses Tools konnten wir uns schneller auf politische Fragen konzentrieren und uns mit den Details der Beweislage befassen, während wir gleichzeitig sicher sein konnten, dass wir die starken Meinungen der Befragten erfasst haben.“

Wie bei vielen KI-Projekten der Regierung befindet sich auch dieses Projekt noch in einem frühen Stadium, und Consult befindet sich weiterhin in einer offiziellen Testphase. Es sind weitere Analysen und Tests geplant, um die Zuverlässigkeit des Tools sicherzustellen, bevor eine Entscheidung über eine vollständige Einführung getroffen wird.

Das Potenzial ist jedoch beträchtlich. Da die Regierung jährlich rund 500 Konsultationen durchführt, könnte Consult bei Erfolg schätzungsweise 75.000 Tage Analysearbeit pro Jahr einsparen.

Wie reagierten die Beamten, die das System genutzt haben? Sie waren Berichten zufolge „angenehm überrascht“ und empfanden die erste Analyse der KI als „nützlichen Ausgangspunkt“. Andere lobten, dass sie „enorm viel Zeit“ sparen und viel schneller „die Analyse durchführen und die nächsten Schritte festlegen“ können.

Interessanterweise waren einige Beamte der Meinung, dass Consult ein neues Maß an Unparteilichkeit eingeführt habe. Einer merkte an, dass seine Verwendung „Voreingenommenheit reduziert und die Konsistenz erhöht” und verhindert, dass einzelne Analysten ihre „eigenen Vorurteile” in die Ergebnisse einfließen lassen.

Einige Konsultationen erhalten Zehntausende oder sogar Hunderttausende von Antworten. Angesichts der vielversprechenden ersten Ergebnisse von Consult dürfte seine Anwendung bei solchen groß angelegten Projekten nicht mehr lange auf sich warten lassen.

Es ist wichtig zu beachten, dass die menschliche Aufsicht weiterhin unverzichtbar ist. Consult ist so konzipiert, dass Experten in jeder Phase einbezogen werden. Beamte überprüfen stets die von der KI vorgeschlagenen Themen und Kategorisierungen und verwenden ein interaktives Dashboard, um bestimmte Erkenntnisse zu filtern und zu suchen. Das Ziel ist es, dass die KI die Schwerarbeit übernimmt, damit sich die Menschen auf strategisches Denken konzentrieren können.

Experten mahnen zur Vorsicht beim Einsatz von KI in der Regierung

Diese Verlagerung hin zur KI im öffentlichen Sektor wird von Experten genau beobachtet.

Stuart Harvey, CEO von Datactics, kommentierte: „Der Einsatz von KI zur Beschleunigung öffentlicher Konsultationen ist ein hervorragendes Beispiel dafür, wie Technologie die Effizienz steigert und Kosten spart. Allerdings ist KI nur so zuverlässig wie die Daten, auf denen sie basiert. Damit solche Tools gut und fair funktionieren, müssen Regierungsbehörden sicherstellen, dass ihre Daten korrekt, aktuell und ordnungsgemäß verwaltet sind.

Das Vertrauen der Öffentlichkeit in KI-gestützte Entscheidungen ist von entscheidender Bedeutung. Dies erfordert transparente, gut geregelte und ethische Prozesse. Eine schlechte Datenqualität oder -verwaltung kann zu voreingenommenen oder unzuverlässigen Ergebnissen führen.

Da die Regierung den Einsatz von KI im öffentlichen Dienst ausweitet, sind Investitionen in robuste Datenpraktiken von entscheidender Bedeutung. Dazu gehören die Einrichtung klarer Datensysteme, die Gewährleistung der Zugänglichkeit von Daten zur Überprüfung und die Beibehaltung der menschlichen Beteiligung an wichtigen Entscheidungen – insbesondere bei der Einschätzung der öffentlichen Meinung.“

Wissenschaftler teilen diese Sichtweise. Professor Michael Rovatsos von der Universität Edinburgh erkennt die Vorteile an, warnt aber auch vor Risiken wie KI-Verzerrungen und potenzieller Manipulation. Er plädiert für strenge Sicherheitsvorkehrungen und kontinuierliche Investitionen, um sicherzustellen, dass alle von der Regierung eingesetzten KI-Tools zuverlässig und fair bleiben.

Stuart Munton, Chief for Group Operations bei AND Digital, fügte hinzu: „Der Einsatz von KI durch die Regierung zur Beschleunigung öffentlicher Konsultationen ist ein positiver Schritt in Richtung intelligenterer und effizienterer Dienstleistungen. Mit der zunehmenden Verbreitung von KI müssen wir jedoch sicherstellen, dass nicht nur die Technologie, sondern auch die Menschen im Mittelpunkt dieser Transformation stehen.

„Tools wie dieses können ihr volles Potenzial nur entfalten, wenn wir in die Ausstattung der Teams im öffentlichen Sektor mit den richtigen Fähigkeiten und Schulungen investieren. Die Befähigung einer vielfältigen Belegschaft zur Nutzung von KI wird die Leistung des Tools verbessern und sicherstellen, dass Innovationen den realen Bedürfnissen entsprechen.“

Wenn sie unter Berücksichtigung dieser Expertenmeinungen richtig implementiert werden, könnten KI-Tools wie Consult die Art und Weise, wie Regierungen auf die Öffentlichkeit hören, von ihr lernen und auf der Grundlage öffentlicher Beiträge Politik formulieren, grundlegend verbessern. Die britische Regierung handelt schnell und plant, Consult bis Ende 2025 in verschiedenen Ministerien zu integrieren.

Siehe auch: USA stoppen KI-Diffusionsregel und verschärfen Chip-Exportkontrollen

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Besuchen Sie die AI & Big Data Expo in Amsterdam, Kalifornien und London. Diese umfassende Veranstaltung findet zusammen mit anderen führenden Veranstaltungen statt, darunter die Intelligent Automation Conference, BlockX, Digital Transformation Week und die Cyber Security & Cloud Expo.

Entdecken Sie hier weitere bevorstehende Veranstaltungen und Webinare zum Thema Unternehmenstechnologie, die von TechForge angeboten werden.