KI wird "Ja-Men auf Servern" und warnt umarme Face CSO

Thomas Wolf, Mitbegründer und wissenschaftlicher Leiter bei Hugging Face, bietet eine vorsichtigere Perspektive auf das Potenzial von KI, die Wissenschaft zu revolutionieren, im Gegensatz zu den kühnen Behauptungen, die oft von anderen Gründern von KI-Unternehmen aufgestellt werden. In einem auf X geteilten Essay äußerte Wolf Bedenken, dass KI ohne bedeutende Durchbrüche in der Forschung lediglich zu „Jasagern auf Servern“ werden könnte. Er argumentiert, dass die aktuelle Entwicklung von KI keine Systeme hervorbringen wird, die zu dem kreativen, unkonventionellen Denken fähig sind, das für bahnbrechende wissenschaftliche Errungenschaften erforderlich ist, wie solche, die Nobelpreise verdienen.

Wolf stellt die Vorstellung infrage, dass Genies wie Newton oder Einstein lediglich hochskalierte Versionen von Spitzenschülern sind. Er glaubt, dass KI, um solches Genie in einem Rechenzentrum nachzubilden, nicht nur alle Antworten kennen, sondern auch Fragen stellen können muss, die noch niemand in Betracht gezogen oder gewagt hat zu stellen. Diese Perspektive unterscheidet sich von der von OpenAI-CEO Sam Altman, der sich „superintelligente“ KI vorstellt, die wissenschaftliche Entdeckungen beschleunigt, und Anthropic-CEO Dario Amodei, der vorhersagt, dass KI helfen könnte, Heilmittel für die meisten Krebsarten zu finden.

Wolfs Kritik an der aktuellen KI ist, dass sie es versäumt, neues Wissen zu generieren, indem sie zuvor unverbundene Fakten verknüpft. Trotz des Zugriffs auf riesige Mengen an Internetdaten füllt KI laut Wolf hauptsächlich die Lücken des bestehenden menschlichen Wissens aus. Diese Ansicht wird von anderen KI-Experten wie dem ehemaligen Google-Ingenieur François Chollet geteilt, die argumentieren, dass KI zwar Denkmuster auswendig lernen kann, aber Schwierigkeiten hat, neues Denken in neuartigen Situationen zu generieren.

Wolf schlägt vor, dass KI-Labore derzeit „sehr gehorsame Schüler“ bauen, anstatt die wissenschaftlichen Revolutionäre, die für echte Innovationen benötigt werden. Er weist darauf hin, dass heutige KI-Systeme nicht darauf ausgelegt sind, Fragen zu stellen oder Ideen vorzuschlagen, die ihren Trainingsdaten widersprechen, was sie darauf beschränkt, bekannte Fragen zu beantworten. Wolf betont die Notwendigkeit einer KI, die etabliertes Wissen infrage stellen und fragen kann: „Was, wenn alle in dieser Sache falsch liegen?“, selbst wenn alle Beweise dagegen sprechen.

Er führt einen Teil des Problems auf eine „Evaluierungskrise“ in der KI zurück, bei der Benchmarks, die zur Messung von Systemverbesserungen verwendet werden, oft auf Fragen mit klaren, abgeschlossenen Antworten fokussiert sind. Um dies anzugehen, schlägt Wolf vor, dass die KI-Branche dazu übergehen sollte, die Fähigkeit von KI zu bewerten, mutige kontrafaktische Ansätze zu verfolgen, allgemeine Vorschläge aus minimalen Hinweisen zu machen und nicht-offensichtliche Fragen zu stellen, die zu neuen Forschungspfaden führen könnten.

Während er anerkennt, dass die Definition einer solchen Messgröße eine Herausforderung darstellt, glaubt Wolf, dass es ein lohnendes Unterfangen ist. Er betont, dass das Wesen der Wissenschaft darin liegt, die richtigen Fragen zu stellen und erlerntes Wissen infrage zu stellen. Anstatt eines A+-Schülers, der jede Frage mit Allgemeinwissen beantworten kann, argumentiert Wolf, dass ein B-Schüler benötigt wird, der sehen und hinterfragen kann, was anderen entgangen ist.