Noam Brown: Los modelos de 'razonamiento' de AI podrían haber surgido hace décadas

Noam Brown, un destacado investigador en razonamiento de IA en OpenAI, compartió recientemente perspectivas en la conferencia GTC de Nvidia en San José, sugiriendo que los avances en la IA de "razonamiento" podrían haberse logrado 20 años antes si se hubieran conocido los métodos y algoritmos adecuados. Explicó: "Hubo varias razones por las que esta dirección de investigación fue descuidada", destacando una brecha en el enfoque que podría haberse llenado mucho antes.

Reflexionando sobre su trayectoria de investigación, Brown señaló una realización crucial: "Noté en el transcurso de mi investigación que, bueno, falta algo. Los humanos dedican mucho tiempo a pensar antes de actuar en una situación difícil. Tal vez esto sería muy útil [en la IA]". Esta observación lo llevó a desarrollar modelos de IA que imitan el razonamiento humano, en lugar de depender únicamente del poder computacional.

Su trabajo en la Universidad Carnegie Mellon, particularmente con la IA Pluribus, que superó a los mejores jugadores de póker humanos, ejemplifica este enfoque. Pluribus fue innovador porque utilizó el razonamiento para resolver problemas, en contraste con los métodos más comunes de fuerza bruta de la época.

En OpenAI, Brown contribuyó al desarrollo de o1, un modelo de IA que utiliza un método conocido como inferencia en tiempo de prueba. Esta técnica permite que la IA "piense" antes de responder, mejorando su precisión y fiabilidad, especialmente en campos como las matemáticas y la ciencia.

Durante la discusión en el panel, Brown abordó el desafío de la investigación académica para competir con la escala de los experimentos realizados por grandes laboratorios de IA como OpenAI. Reconoció la creciente dificultad debido a las crecientes demandas computacionales de los modelos modernos, pero sugirió que los académicos aún podrían contribuir significativamente al enfocarse en áreas que requieren menos poder computacional, como el diseño de arquitecturas de modelos.

Enfatizó el potencial para la colaboración entre la academia y los laboratorios de vanguardia, afirmando: "[H]ay una oportunidad para la colaboración entre los laboratorios de vanguardia [y la academia]. Ciertamente, los laboratorios de vanguardia están revisando publicaciones académicas y considerando cuidadosamente, bueno, ¿esto presenta un argumento convincente de que, si se escalara aún más, sería muy efectivo? Si hay un argumento convincente en el artículo, ya sabes, investigaremos eso en estos laboratorios".

Los comentarios de Brown son particularmente oportunos ya que la administración Trump ha propuesto recortes significativos al financiamiento científico, una medida criticada por expertos en IA, incluyendo a Geoffrey Hinton, quienes argumentan que dichos recortes podrían poner en peligro los esfuerzos de investigación en IA a nivel global.

También señaló el papel crítico de la academia en la mejora de los puntos de referencia de la IA, destacando: "El estado de los puntos de referencia en la IA es realmente malo, y eso no requiere mucho poder computacional para hacerlo". Los puntos de referencia actuales de IA a menudo se centran en conocimientos oscuros y no reflejan con precisión las capacidades que más importan a los usuarios, lo que lleva a confusión sobre el verdadero potencial y progreso de los modelos de IA.

Actualizado a las 4:06 p.m. PT: Una versión anterior de este artículo implicaba que Brown se refería a modelos de razonamiento como o1 en sus comentarios iniciales. De hecho, se refería a su trabajo en IA para juegos antes de su tiempo en OpenAI. Lamentamos el error.