Noam Brown: AI -Argumentationsmodelle hätten vor Jahrzehnten entstehen können

# GTC # openai

Noam Brown, ein führender Forscher in KI -Argumentation bei OpenAI, teilte kürzlich Erkenntnisse auf der GTC -Konferenz von NVIDIA in San Jose und schlug vor, dass die Fortschritte in der "Argumentation" AI 20 Jahre zuvor erreicht werden können, wenn die richtigen Methoden und Algorithmen bekannt gewesen wären. Er erklärte: "Es gab verschiedene Gründe, warum diese Forschungsrichtung vernachlässigt wurde." In Bezug auf seine Forschungsreise bemerkte Brown eine entscheidende Erkenntnis: "Ich habe im Laufe meiner Forschung bemerkt, dass es etwas fehlt. Menschen verbringen viel Zeit damit, zu denken, bevor sie in einer schwierigen Situation handeln. Vielleicht wäre dies sehr nützlich [in AI]." Diese Beobachtung veranlasste ihn, KI-Modelle zu entwickeln, die menschliches Denken imitieren, anstatt sich ausschließlich auf die Rechenleistung zu verlassen. Seine Arbeit an der Carnegie Mellon University, insbesondere bei der Pluribus AI, die Top Human Poker Player besiegte, veranschaulicht diesen Ansatz beispielhaft. Pluribus war bahnbrechend, weil es Argumentation verwendete, Probleme zu lösen, und im Gegensatz zu den häufigeren Brute-Force-Methoden zu dieser Zeit. Bei OpenAI trug Brown zur Entwicklung von O1 bei, einem KI-Modell, das eine Methode verwendet, die als Testzeit-Inferenz bezeichnet wird. Diese Technik ermöglicht es der KI, vor der Reaktion "zu denken" und ihre Genauigkeit und Zuverlässigkeit zu verbessern, insbesondere in Bereichen wie Mathematik und Naturwissenschaften. Während der Podiumsdiskussion befasste sich Brown mit der Herausforderung der akademischen Forschung im Wettbewerb mit dem Umfang der Experimente, die von großen KI -Labors wie OpenAI durchgeführt wurden. Er erkannte die zunehmende Schwierigkeit aufgrund der wachsenden rechnerischen Anforderungen moderner Modelle an, schlug jedoch vor, dass Akademiker immer noch erheblich beitragen könnten, indem sie sich auf Bereiche konzentrieren, die weniger Rechenleistung erfordern, wie z. B. das Entwerfen von Modellarchitekturen. Er betonte das Potenzial für die Zusammenarbeit zwischen Wissenschaft und Frontier Labs und erklärte: "[T] Hier gibt es eine Gelegenheit für die Zusammenarbeit zwischen den Grenzlabors [und der Wissenschaft]. Sicherlich schauen die Grenzlabors akademische Veröffentlichungen und denken sorgfältig darüber nach. Labors. " Browns Kommentare sind besonders rechtzeitig, da die Trump -Regierung erhebliche Kürzungen für wissenschaftliche Finanzmittel vorgeschlagen hat, ein Schritt, der von KI -Experten kritisiert wurde, darunter Geoffrey Hinton, der argumentiert, dass solche Kürzungen die weltweit gefährdeten KI -Forschungsbemühungen gefährden könnten. Er wies auch auf die entscheidende Rolle der Wissenschaft bei der Verbesserung der KI -Benchmarking und stellte fest: "Der Zustand der Benchmarks in KI ist wirklich schlecht, und das erfordert nicht viel Berechnung." Aktuelle KI -Benchmarks konzentrieren sich häufig auf dunkeles Wissen und widerspiegeln nicht genau die Funktionen, die für Benutzer wichtig sind, und führen zu Verwirrung über das wahre Potenzial und Fortschritt von KI -Modellen. *Aktualisiert 4:06 Uhr PT: Eine frühere Version dieses Stücks implizierte, dass Brown in seinen ersten Bemerkungen auf Argumentationsmodelle wie O1 bezog. Tatsächlich bezog er sich vor seiner Zeit bei Openai auf seine Arbeit an der KI. Wir bereuen den Fehler.*

Verwandter Artikel

Kommentare (10)