Wer entscheidet, was dir die KI erzählt? Der ehemalige Nachrichtenchef von Meta, Campbell Brown, nimmt dazu Stellung.

Im Laufe ihrer Karriere hat sich Campbell Brown stets für korrekte Informationen eingesetzt – zunächst als gefeierte Fernsehjournalistin, später als erste und einzige Leiterin der Nachrichtenredaktion bei Facebook. Nun, da KI die Art und Weise verändert, wie Menschen Informationen konsumieren, sieht sie die Gefahr, dass sich die Geschichte wiederholt. Diesmal wartet sie nicht darauf, dass jemand anderes das Problem löst.

Ihr Unternehmen Forum AI – über das sie kürzlich mit Tim Fernholz von TechCrunch bei einer StrictlyVC-Veranstaltung in San Francisco sprach – bewertet, wie sich Grundmodelle bei Themen schlagen, die sie als „Themen mit hohem Einsatz“ bezeichnet: Geopolitik, psychische Gesundheit, Finanzen und Personalbeschaffung. Dies sind Themen, bei denen es „keine klaren Ja-oder-Nein-Antworten gibt, bei denen es undurchsichtig, nuanciert und komplex ist“.

Der Ansatz besteht darin, die weltweit führenden Experten zu finden, sie Benchmarks entwerfen zu lassen und dann KI-Bewerter zu trainieren, um Modelle in großem Maßstab zu bewerten. Für die geopolitische Arbeit von Forum AI hat Brown Niall Ferguson, Fareed Zakaria, den ehemaligen Außenminister Tony Blinken, den ehemaligen Sprecher des Repräsentantenhauses Kevin McCarthy und Anne Neuberger, die unter der Obama-Regierung für Cybersicherheit zuständig war, gewonnen. Das Ziel ist es, einen Konsens von etwa 90 % zwischen den KI-Richtern und diesen menschlichen Experten zu erreichen – eine Schwelle, die Forum AI laut Brown bereits erreicht hat.

Brown führt den Ursprung von Forum AI – das vor 17 Monaten in New York gegründet wurde – auf einen bestimmten Moment zurück. „Ich war bei Meta, als ChatGPT zum ersten Mal öffentlich veröffentlicht wurde“, erinnert sie sich, „und ich weiß noch, dass mir kurz darauf klar wurde, dass dies der Trichter sein wird, durch den alle Informationen fließen. Und das ist nicht besonders gut.“ Die Auswirkungen auf ihre eigenen Kinder ließen diesen Moment fast existenziell erscheinen. „Meine Kinder werden wirklich dumm sein, wenn wir nicht herausfinden, wie wir das beheben können“, erinnert sie sich gedacht zu haben.

Was sie am meisten frustrierte, war, dass Genauigkeit offenbar für niemanden Priorität hatte. Unternehmen, die Grundmodelle entwickeln, seien „extrem auf Programmierung und Mathematik fokussiert“, während Nachrichten und Informationen schwieriger seien. Aber schwieriger, so argumentierte sie, bedeute nicht optional.

Tatsächlich waren die Ergebnisse nicht gerade ermutigend, als Forum AI begann, die führenden Modelle zu bewerten. Sie führte an, dass Gemini Inhalte von Websites der Kommunistischen Partei Chinas „für Geschichten, die nichts mit China zu tun haben“ heranzog, und stellte eine linksgerichtete politische Voreingenommenheit bei fast allen Modellen fest. Auch subtilere Fehler seien zahlreich, sagte sie, darunter fehlender Kontext, fehlende Perspektiven und Strohmann-Argumente ohne Quellenangabe. „Es ist noch ein langer Weg“, sagte sie. „Aber ich glaube auch, dass es einige sehr einfache Lösungen gibt, die die Ergebnisse erheblich verbessern würden.“

Brown verbrachte Jahre bei Facebook und beobachtete, was passiert, wenn eine Plattform auf die falschen Kennzahlen optimiert. „Wir sind bei vielen Dingen, die wir versucht haben, gescheitert“, sagte sie zu Fernholz. Das von ihr aufgebaute Faktenprüfungsprogramm existiert nicht mehr. Die Lehre daraus – auch wenn die sozialen Medien davor die Augen verschlossen haben – ist, dass die Optimierung auf Interaktion der Gesellschaft geschadet und viele Menschen schlechter informiert zurückgelassen hat.

Ihre Hoffnung ist, dass KI diesen Kreislauf durchbrechen kann. „Im Moment könnte es in beide Richtungen gehen“, sagte sie; Unternehmen könnten den Nutzern geben, was sie wollen, oder sie könnten „den Menschen das geben, was real und ehrlich und wahr ist“. Sie räumte ein, dass die idealistische Version – KI, die auf Wahrheit optimiert – naiv klingen mag. Aber sie glaubt, dass die Wirtschaft hier ein unerwarteter Verbündeter sein könnte. Unternehmen, die KI für Kreditentscheidungen, Kreditvergabe, Versicherungen und Personalbeschaffung nutzen, legen Wert auf Haftungssicherheit, und „sie werden wollen, dass man die Optimierung darauf ausrichtet, alles richtig zu machen“.

Auf diese Nachfrage der Unternehmen setzt auch Forum AI, obwohl es nach wie vor eine Herausforderung ist, das Interesse an Compliance in beständige Einnahmen umzuwandeln – insbesondere angesichts der Tatsache, dass ein Großteil des aktuellen Marktes sich noch immer mit Checklisten-Audits und standardisierten Benchmarks zufrieden gibt, die Brown für unzureichend hält.

Die Compliance-Landschaft, so sagte sie, sei „ein Witz“. Als New York City das erste Gesetz gegen Diskriminierung bei der Einstellung verabschiedete, das KI-Audits vorschreibt, stellte der Rechnungsprüfer des Staates fest, dass bei mehr als der Hälfte Verstöße unentdeckt blieben. Eine echte Bewertung, so sagte sie, erfordere Fachwissen, um nicht nur bekannte Szenarien, sondern auch Grenzfälle durchzuarbeiten, die „einen in Schwierigkeiten bringen können, an die niemand denkt“. Und diese Arbeit braucht Zeit. „Kluge Generalisten werden das nicht schaffen.“

Brown – deren Unternehmen im vergangenen Herbst unter der Führung von Lerer Hippeau 3 Millionen Dollar einsammelte – ist in einer einzigartigen Position, um die Diskrepanz zwischen dem Selbstbild der KI-Branche und der Realität für die meisten Nutzer zu beschreiben. „Man hört von den Chefs der großen Tech-Unternehmen: ‚Diese Technologie wird die Welt verändern‘, ‚sie wird euch arbeitslos machen‘, ‚sie wird Krebs heilen‘“, sagte sie. „Aber für einen normalen Menschen, der einen Chatbot nur nutzt, um einfache Fragen zu stellen, gibt es immer noch jede Menge Unsinn und falsche Antworten.“

Das Vertrauen in KI ist außerordentlich gering, und sie hält diese Skepsis in vielen Fällen für berechtigt. „In Silicon Valley dreht sich die Diskussion um das eine Thema, während unter den Verbrauchern eine ganz andere Diskussion stattfindet.“