Avance de escala de IA cuestionado por expertos

# research # scaling

Ha habido un zumbido en las redes sociales sobre los investigadores que descubren una nueva "ley de escala" de la IA, pero los expertos lo están tomando con un grano de sal. Las leyes de escala de IA, que se parecen más a las pautas informales, muestran cómo los modelos de IA mejoran a medida que les arroja más datos y potencia informática. Hasta hace aproximadamente un año, la gran tendencia se trataba de "pre-entrenamiento", básicamente, capacitar modelos más grandes en conjuntos de datos más grandes. Eso sigue siendo una cosa, pero ahora tenemos dos leyes de escala más en la mezcla: escalamiento posterior al entrenamiento, que se trata de ajustar el comportamiento de un modelo y la escala de tiempo de prueba, lo que implica el uso de más potencia informática durante la inferencia para aumentar las capacidades de "razonamiento" de un modelo (piense en modelos como R1). Recientemente, los investigadores de Google y UC Berkeley dejaron un artículo que algunas personas en línea están llamando a una cuarta ley: "Búsqueda de tiempo de inferencia". Este método tiene el modelo escupir un montón de respuestas posibles a una consulta al mismo tiempo y luego elegir la mejor. Los investigadores afirman que puede aumentar el rendimiento de un modelo más antiguo, como Gemini 1.5 Pro de Google, para vencer al modelo de "razonamiento" de previsión O1 de OpenAI en puntos de referencia de ciencias y matemáticas. Eric Zhao, miembro del Doctorado de Google y uno de los coautores del documento, compartió en X que simplemente muestreando al azar 200 respuestas y dejando que el modelo se autoverifique, Gemini 1.5, que en broma llamó un "antiguo modelo a principios de 2024", podría superar a O1 previa e incluso llegar a O1. Señaló que la autoverificación se vuelve más fácil a medida que se escala, lo cual es un poco contradictorio pero genial. Pero no todos están convencidos. Matthew Guzdial, investigador de IA y profesor asistente en la Universidad de Alberta, le dijo a TechCrunch que este enfoque funciona mejor cuando tiene una forma sólida de juzgar las respuestas. Sin embargo, la mayoría de las preguntas no son tan sencillas. Él dijo: "Si no podemos escribir código para definir lo que queremos, no podemos usar la búsqueda [de tiempo de inferencia]. Para algo como la interacción del idioma general, no podemos hacer esto ... generalmente no es un gran enfoque para resolver la mayoría de los problemas". Zhao respondió, diciendo que su artículo realmente analiza los casos en los que no tiene una forma clara de juzgar las respuestas, y el modelo tiene que resolverlo por sí solo. Argumentó que la brecha entre tener una forma clara de juzgar y no tener uno puede reducirse a medida que se escala. Mike Cook, miembro de la investigación del King's College London, respaldó la opinión de Guzdial, diciendo que la búsqueda de tiempo de inferencia realmente no mejora el razonamiento del modelo. Es más como una solución para la tendencia del modelo a cometer errores de confianza. Señaló que si su modelo arruina el 5% del tiempo, verificar 200 intentos debería hacer que esos errores sean más fáciles de detectar. Esta noticia podría ser un poco decepcionante para la industria de la IA, que siempre está buscando formas de impulsar el "razonamiento" del modelo sin romper el banco. Como señalaron los autores del artículo, los modelos de razonamiento pueden acumular miles de dólares en costos informáticos solo para resolver un problema de matemáticas. Parece que la búsqueda de nuevas técnicas de escala está lejos de terminar. *Actualizado 20/20 5:12 AM Pacífico: Comentarios agregados del coautor del estudio Eric Zhao, quien está en desacuerdo con una evaluación de un investigador independiente que criticó el trabajo.*

Artículo relacionado

comentario (35)