Noam Brown: Los modelos de 'razonamiento' de AI podrían haber surgido hace décadas

# GTC # openai

Noam Brown, un investigador líder en razonamiento de IA en OpenAI, recientemente compartió ideas en la conferencia GTC de NVIDIA en San José, lo que sugiere que los avances en el "razonamiento" podrían haberse logrado 20 años antes si se habían conocido los métodos y algoritmos correctos. Explicó: "Hubo varias razones por las cuales se descuida esta dirección de investigación", destacando un espacio en el enfoque que podría haberse llenado mucho antes. Reflexionando sobre su viaje de investigación, Brown notó una comprensión crucial: "Me di cuenta en el transcurso de mi investigación que, está bien, falta algo. Los humanos pasan mucho tiempo pensando antes de actuar en una situación difícil. Tal vez esto sería muy útil [en IA]". Esta observación lo llevó a desarrollar modelos de IA que imiten el razonamiento humano, en lugar de confiar únicamente en el poder computacional. Su trabajo en la Universidad Carnegie Mellon, particularmente con la IA Pluribus, que superó a los mejores jugadores de póker humano, ejemplifica este enfoque. Pluribus fue innovador porque usaba un razonamiento para resolver problemas, contrastando con los métodos de fuerza bruta más comunes en ese momento. En OpenAI, Brown contribuyó al desarrollo de O1, un modelo de IA que utiliza un método conocido como inferencia de tiempo de prueba. Esta técnica permite que la IA "piense" antes de responder, mejorando su precisión y confiabilidad, especialmente en campos como las matemáticas y la ciencia. Durante el panel de discusión, Brown abordó el desafío de la investigación académica que compite con la escala de experimentos realizados por grandes laboratorios de IA como OpenAI. Reconoció la creciente dificultad debido a las crecientes demandas computacionales de los modelos modernos, pero sugirió que los académicos aún podrían contribuir significativamente al enfocarse en áreas que requieren menos potencia computacional, como el diseño de arquitecturas de modelos. Hizo hincapié en el potencial de colaboración entre la academia y los laboratorios fronterizos, afirmando: "[T] aquí hay una oportunidad para la colaboración entre los laboratorios fronterizos [y la academia]. Ciertamente, los laboratorios fronterizos están buscando publicaciones académicas y pensando cuidadosamente sobre, OK, ¿esto hace un argumento convincente que, si esto se escala más, sería muy efectivo? Si es muy efectivo. Los comentarios de Brown son particularmente oportunos ya que la administración Trump ha propuesto recortes significativos a la financiación científica, un movimiento criticado por expertos en IA, incluida Geoffrey Hinton, quien argumenta que tales recortes podrían poner en peligro los esfuerzos de investigación de IA a nivel mundial. También señaló el papel crítico de la academia en la mejora de la evaluación comparativa de IA, señalando: "El estado de los puntos de referencia en la IA es realmente malo, y eso no requiere mucho cómputo para hacer". Los puntos de referencia actuales de IA a menudo se centran en un conocimiento oscuro y no reflejan con precisión las capacidades que más importan para los usuarios, lo que lleva a la confusión sobre el verdadero potencial y el progreso de los modelos de IA. *Actualizado 4:06 PM PT: una versión anterior de esta pieza implicaba que Brown se refería a modelos de razonamiento como O1 en sus comentarios iniciales. De hecho, se refería a su trabajo en la IA de juego antes de su tiempo en OpenAI. Lamentamos el error.*

Artículo relacionado

comentario (10)