MIT-Startup bekämpft KI-Halluzinationen, indem es Systemen beibringt, Ungewissheit zuzulassen

Die Risiken, die mit KI-Halluzinationen verbunden sind, nehmen zu, da man sich zunehmend auf diese Modelle verlässt, wenn es darum geht, kritische Informationen zu finden und Entscheidungen zu treffen, bei denen viel auf dem Spiel steht.

Wir alle kennen jemanden, der sich wie ein Besserwisser verhält, der sich weigert, seine Unwissenheit zuzugeben, oder der fragwürdige Ratschläge gibt, die auf etwas basieren, das er online überflogen hat. KI-Halluzinationen sind wie dieser Freund - aber in diesem Fall könnte der Freund Ihre Krebsbehandlung planen.

An dieser Stelle kommt Themis AI ins Spiel. Das aus dem MIT hervorgegangene Unternehmen hat etwas erreicht, das vom Konzept her einfach klingt, aber technisch sehr anspruchsvoll ist: KI-Systemen beizubringen, Unsicherheit zu erkennen und zuzulassen.

KI-Modelle neigen dazu, übermäßig zuversichtlich zu sein. Die Capsa-Plattform von Themis bietet einen Realitätscheck, der den Modellen hilft, zu erkennen, wann sie spekulieren, anstatt mit Gewissheit zu arbeiten.

Das 2021 von MIT-Professorin Daniela Rus und den ehemaligen Forschungsmitarbeitern Alexander Amini und Elaheh Ahmadi gegründete Unternehmen Themis AI hat eine Plattform entwickelt, die sich in nahezu jedes KI-System integrieren lässt und Momente der Unsicherheit aufzeigt, bevor sie zu Fehlern führen.

Mithilfe von Capsa lernt die KI, Muster in ihrer eigenen Datenverarbeitung zu erkennen, die auf Verwirrung, Voreingenommenheit oder Informationslücken hindeuten - Bedingungen, die oft zu Halluzinationen führen.

Seit seiner Markteinführung hat Themis nach eigenen Angaben Telekommunikationsunternehmen dabei geholfen, teure Fehler bei der Netzplanung zu vermeiden, Öl- und Gasunternehmen bei der Interpretation komplexer seismischer Daten unterstützt und Forschungsergebnisse über die Entwicklung von Chatbots veröffentlicht, die es vermeiden, selbstbewusst Fakten zu erfinden.

Viele Menschen sind sich immer noch nicht bewusst, wie oft KI-Systeme im Grunde nur Vermutungen anstellen. Da diese Systeme immer wichtigere Aufgaben übernehmen, können solche Vermutungen erhebliche Konsequenzen haben. Themis AI bringt ein fehlendes Element ein: Selbstbewusstsein.

Der Weg von Themis AI zur Bewältigung von KI-Halluzinationen

Der Weg zu Themis AI begann vor Jahren im Labor von Professor Rus am MIT, wo die Forscher einer zentralen Frage nachgingen: Wie kann sich eine Maschine ihrer eigenen Grenzen bewusst werden?

Im Jahr 2018 finanzierte Toyota ihre Arbeit an zuverlässiger KI für autonome Fahrzeuge - eine Branche, in der Fehler lebensbedrohlich sein können. Die Herausforderung ist besonders kritisch, wenn selbstfahrende Autos Fußgänger und Gefahren im Straßenverkehr präzise erkennen müssen.

Der Durchbruch gelang mit einem Algorithmus, der in der Lage ist, rassistische und geschlechtsspezifische Verzerrungen in Gesichtserkennungssystemen zu erkennen. Anstatt die Voreingenommenheit nur zu erkennen, korrigierte ihr System sie, indem es die Trainingsdaten neu ausbalancierte und so der KI beibrachte, ihre eigenen Vorurteile zu überwinden.

Bis 2021 demonstrierte das Team, wie diese Methode die Arzneimittelentdeckung verändern könnte. KI-Systeme könnten potenzielle Medikamente bewerten und dabei hervorheben, wenn die Vorhersagen auf soliden Daten beruhen und nicht auf Spekulationen oder völligen Halluzinationen. Die Pharmaunternehmen erkannten den Wert, der darin liegt, nur Wirkstoffkandidaten zu verfolgen, von denen die KI überzeugt ist, und so sowohl Zeit als auch Ressourcen zu sparen.

Ein weiterer Vorteil gilt für Geräte mit begrenzter Rechenleistung. Edge-Geräte sind oft auf kleinere Modelle angewiesen, die nicht mit der Genauigkeit serverbasierter Systeme mithalten können. Die Technologie von Themis hilft diesen lokalen Modellen, die meisten Aufgaben selbstständig zu bewältigen und nur dann die Unterstützung eines Servers in Anspruch zu nehmen, wenn sie auf etwas Schwieriges stoßen.

KI bietet ein immenses Potenzial, unser Leben zu verbessern, birgt aber auch echte Risiken. In dem Maße, in dem KI in kritische Infrastrukturen und Entscheidungsprozesse integriert wird, könnte sich die Fähigkeit, Unsicherheiten zu erkennen - und Halluzinationen zu vermeiden - als ihre menschlichste und wertvollste Eigenschaft erweisen. Themis AI hilft den Modellen, diese wichtige Fähigkeit zu erlernen.

Siehe auch: Diabetes-Management: IBM und Roche nutzen KI zur Vorhersage des Blutzuckerspiegels

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Besuchen Sie die AI & Big Data Expo, die in Amsterdam, Kalifornien und London stattfindet. Die umfassende Veranstaltung findet gemeinsam mit anderen führenden Events statt, darunter die Intelligent Automation Conference, BlockX, Digital Transformation Week und Cyber Security & Cloud Expo.

Hier finden Sie weitere Veranstaltungen und Webinare zu Unternehmenstechnologien, die von TechForge unterstützt werden.