Noam Brown: AI -Argumentationsmodelle hätten vor Jahrzehnten entstehen können

Noam Brown, ein führender Forscher im Bereich KI-Logik bei OpenAI, teilte kürzlich auf der GTC-Konferenz von Nvidia in San Jose Erkenntnisse mit und deutete an, dass Fortschritte bei „logischem“ KI vor 20 Jahren hätten erreicht werden können, wenn die richtigen Methoden und Algorithmen bekannt gewesen wären. Er erklärte: „Es gab verschiedene Gründe, warum diese Forschungsrichtung vernachlässigt wurde“, und wies auf eine Lücke in der Herangehensweise hin, die viel früher hätte geschlossen werden können.

In Bezug auf seine Forschungsreise stellte Brown eine entscheidende Erkenntnis fest: „Ich habe im Laufe meiner Forschung bemerkt, dass, OK, etwas fehlt. Menschen verbringen viel Zeit damit, nachzudenken, bevor sie in einer schwierigen Situation handeln. Vielleicht wäre das [in KI] sehr nützlich.“ Diese Beobachtung führte ihn dazu, KI-Modelle zu entwickeln, die menschliches Denken nachahmen, anstatt sich ausschließlich auf Rechenleistung zu stützen.

Seine Arbeit an der Carnegie Mellon University, insbesondere mit der Pluribus KI, die die besten menschlichen Pokerspieler besiegte, veranschaulicht diesen Ansatz. Pluribus war bahnbrechend, weil es Logik einsetzte, um Probleme zu lösen, im Gegensatz zu den damals üblicheren Brute-Force-Methoden.

Bei OpenAI trug Brown zur Entwicklung von o1 bei, einem KI-Modell, das eine Methode namens Test-Time-Inference verwendet. Diese Technik ermöglicht es der KI, vor der Antwort zu „denken“, was ihre Genauigkeit und Zuverlässigkeit insbesondere in Bereichen wie Mathematik und Wissenschaft verbessert.

Während der Podiumsdiskussion sprach Brown die Herausforderung an, dass akademische Forschung mit dem Umfang der Experimente großer KI-Labore wie OpenAI konkurrieren muss. Er erkannte die zunehmende Schwierigkeit aufgrund der wachsenden Rechenanforderungen moderner Modelle an, schlug aber vor, dass Akademiker dennoch bedeutende Beiträge leisten könnten, indem sie sich auf Bereiche konzentrieren, die weniger Rechenleistung erfordern, wie etwa das Entwerfen von Modellarchitekturen.

Er betonte das Potenzial für Zusammenarbeit zwischen Akademie und Spitzenlaboren und sagte: „[Es] gibt eine Möglichkeit zur Zusammenarbeit zwischen den Spitzenlaboren [und der Akademie]. Sicherlich schauen die Spitzenlabore auf akademische Publikationen und überlegen sorgfältig, OK, liefert dies ein überzeugendes Argument, dass, wenn dies weiter skaliert würde, es sehr effektiv wäre. Wenn es dieses überzeugende Argument in der Publikation gibt, wissen Sie, wir werden das in diesen Laboren untersuchen.“

Browns Kommentare sind besonders aktuell, da die Trump-Administration erhebliche Kürzungen bei der wissenschaftlichen Finanzierung vorgeschlagen hat, eine Maßnahme, die von KI-Experten, einschließlich Geoffrey Hinton, kritisiert wurde, die argumentieren, dass solche Kürzungen die globalen KI-Forschungsbemühungen gefährden könnten.

Er wies auch auf die entscheidende Rolle der Akademie bei der Verbesserung der KI-Benchmarking hin und bemerkte: „Der Zustand der Benchmarks in der KI ist wirklich schlecht, und das erfordert nicht viel Rechenleistung.“ Aktuelle KI-Benchmarks konzentrieren sich oft auf obskures Wissen und spiegeln nicht genau die Fähigkeiten wider, die für Nutzer am wichtigsten sind, was zu Verwirrung über das wahre Potenzial und den Fortschritt von KI-Modellen führt.

Aktualisiert um 16:06 Uhr PT: Eine frühere Version dieses Artikels ließ vermuten, dass Brown in seinen anfänglichen Bemerkungen auf logische Modelle wie o1 Bezug nahm. Tatsächlich bezog er sich auf seine Arbeit an spielbasierten KI vor seiner Zeit bei OpenAI. Wir bedauern den Fehler.