Noam Brown: les modèles de «raisonnement» AI auraient pu émerger il y a des décennies

# GTC # openai

Noam Brown, un chercheur de premier plan dans le raisonnement de l'IA à OpenAI, a récemment partagé des informations à la conférence GTC de NVIDIA à San Jose, suggérant que les progrès dans le "raisonnement" auraient pu être réalisés 20 ans plus tôt si les bonnes méthodes et algorithmes étaient connus. Il a expliqué: "Il y avait diverses raisons pour lesquelles cette direction de recherche a été négligée", mettant en évidence une lacune dans l'approche qui aurait pu être comblée beaucoup plus tôt. En réfléchissant à son parcours de recherche, Brown a noté une prise de conscience cruciale: "J'ai remarqué au cours de mes recherches que, OK, il manque quelque chose. Les humains passent beaucoup de temps à réfléchir avant d'agir dans une situation difficile. Peut-être que ce serait très utile [en IA]." Cette observation l'a amené à développer des modèles d'IA qui imitent le raisonnement humain, plutôt que de s'appuyer uniquement sur le pouvoir de calcul. Son travail à l'Université Carnegie Mellon, en particulier avec la Pluribus AI, qui a battu les meilleurs joueurs de poker humain, illustre cette approche. Pluribus était révolutionnaire parce qu'il utilisait le raisonnement pour résoudre les problèmes, contrastant avec les méthodes brutales les plus courantes à l'époque. À OpenAI, Brown a contribué au développement de O1, un modèle d'IA qui utilise une méthode connue sous le nom d'inférence à temps de test. Cette technique permet à l'IA de «penser» avant de répondre, d'améliorer sa précision et sa fiabilité, en particulier dans des domaines comme les mathématiques et les sciences. Au cours de la table ronde, Brown a relevé le défi de la recherche universitaire en concurrence avec l'ampleur des expériences menées par de grands laboratoires d'IA comme OpenAI. Il a reconnu la difficulté croissante en raison des exigences de calcul croissantes des modèles modernes, mais a suggéré que les universitaires pourraient encore contribuer de manière significative en se concentrant sur des domaines qui nécessitent moins de puissance de calcul, tels que la conception d'architectures de modèles. Il a souligné le potentiel de collaboration entre les universités et les laboratoires frontaliers, déclarant: "[T] est une opportunité de collaboration entre les laboratoires de frontières [et le monde universitaire]. Certes, les laboratoires de Frontier envisagent des publications académiques et en pensant attentivement, OK, fait un argument convaincant que, si cela a été mis à l'échelle, ce serait très efficace. S'il y a un argument contraignant à partir de l'argument contraignant, nous savons que nous en étendons. Les commentaires de Brown sont particulièrement opportuns car l'administration Trump a proposé des réductions importantes du financement scientifique, une décision critiquée par des experts de l'IA, notamment Geoffrey Hinton, qui soutiennent que de telles coupes pourraient compromettre les efforts de recherche sur l'IA dans le monde. Il a également souligné le rôle critique du monde universitaire dans l'amélioration de l'analyse comparative de l'IA, notant: "L'état des références dans l'IA est vraiment mauvais, et cela ne nécessite pas beaucoup de calcul pour le faire." Les références actuelles de l'IA se concentrent souvent sur les connaissances obscures et ne reflètent pas avec précision les capacités qui comptent le plus pour les utilisateurs, ce qui entraîne une confusion sur le véritable potentiel et les progrès des modèles d'IA. * Mis à jour 16 h 06 PT: Une version antérieure de cette pièce impliquait que Brown faisait référence à des modèles de raisonnement comme O1 dans ses remarques initiales. En fait, il faisait référence à son travail sur l'IA de jeu avant son passage à Openai. Nous regrettons l'erreur. *

Article connexe

commentaires (10)