Noam Brown: les modèles de «raisonnement» AI auraient pu émerger il y a des décennies

Noam Brown, un chercheur de premier plan en raisonnement IA chez OpenAI, a récemment partagé des idées lors de la conférence GTC de Nvidia à San Jose, suggérant que des avancées dans l'IA de "raisonnement" auraient pu être réalisées 20 ans plus tôt si les bonnes méthodes et algorithmes avaient été connus. Il a expliqué : « Il y avait diverses raisons pour lesquelles cette direction de recherche a été négligée », mettant en lumière un écart dans l'approche qui aurait pu être comblé beaucoup plus tôt.

En réfléchissant à son parcours de recherche, Brown a noté une prise de conscience cruciale : « J'ai remarqué au cours de mes recherches que, d'accord, il manque quelque chose. Les humains passent beaucoup de temps à réfléchir avant d'agir dans une situation difficile. Peut-être que cela serait très utile [en IA]. » Cette observation l'a conduit à développer des modèles d'IA qui imitent le raisonnement humain, plutôt que de s'appuyer uniquement sur la puissance de calcul.

Son travail à l'Université Carnegie Mellon, en particulier avec l'IA Pluribus, qui a surpassé les meilleurs joueurs de poker humains, illustre cette approche. Pluribus était révolutionnaire car il utilisait le raisonnement pour résoudre des problèmes, contrairement aux méthodes de force brute plus courantes à l'époque.

Chez OpenAI, Brown a contribué au développement de o1, un modèle d'IA qui utilise une méthode connue sous le nom d'inférence au moment du test. Cette technique permet à l'IA de "penser" avant de répondre, améliorant sa précision et sa fiabilité, en particulier dans des domaines comme les mathématiques et les sciences.

Lors de la discussion en panel, Brown a abordé le défi de la recherche académique face à l'échelle des expériences menées par de grands laboratoires d'IA comme OpenAI. Il a reconnu la difficulté croissante en raison des demandes computationnelles croissantes des modèles modernes, mais a suggéré que les universitaires pourraient encore contribuer de manière significative en se concentrant sur des domaines nécessitant moins de puissance de calcul, comme la conception d'architectures de modèles.

Il a souligné le potentiel de collaboration entre le milieu académique et les laboratoires de pointe, déclarant : « [I]l y a une opportunité de collaboration entre les laboratoires de pointe [et le milieu académique]. Assurément, les laboratoires de pointe examinent les publications académiques et réfléchissent soigneusement à, d'accord, est-ce que cela présente un argument convaincant que, si cela était amplifié davantage, cela serait très efficace. S'il y a cet argument convaincant dans l'article, eh bien, nous l'explorerons dans ces laboratoires. »

Les commentaires de Brown sont particulièrement opportuns alors que l'administration Trump a proposé des coupes significatives dans le financement scientifique, une décision critiquée par des experts en IA, y compris Geoffrey Hinton, qui soutiennent que de telles coupes pourraient compromettre les efforts de recherche en IA à l'échelle mondiale.

Il a également souligné le rôle crucial du milieu académique dans l'amélioration des benchmarks d'IA, notant : « L'état des benchmarks en IA est vraiment mauvais, et cela ne nécessite pas beaucoup de calcul pour y remédier. » Les benchmarks d'IA actuels se concentrent souvent sur des connaissances obscures et ne reflètent pas précisément les capacités qui importent le plus aux utilisateurs, ce qui entraîne une confusion sur le véritable potentiel et les progrès des modèles d'IA.

Mis à jour à 16h06 PT : Une version antérieure de cet article suggérait que Brown faisait référence à des modèles de raisonnement comme o1 dans ses remarques initiales. En fait, il faisait référence à son travail sur l'IA de jeux avant son arrivée chez OpenAI. Nous regrettons l'erreur.