Prevure à l'échelle AI remise en question par les experts

# research # scaling

Il y a eu un buzz sur les réseaux sociaux au sujet des chercheurs découvrant une nouvelle «loi sur la mise à l'échelle», mais les experts le prennent avec un grain de sel. Les lois sur la mise à l'échelle de l'IA, qui ressemblent davantage aux directives informelles, montrent comment les modèles AI s'améliorent lorsque vous leur jetez plus de données et de la puissance de calcul. Jusqu'à il y a environ un an, la grande tendance était une question de «pré-formation» - en gros, de la formation de modèles plus importants sur des ensembles de données plus importants. C'est toujours une chose, mais maintenant nous avons deux autres lois sur la mise à l'échelle dans le mélange: la mise à l'échelle post-entraînement, qui consiste à peaufiner le comportement d'un modèle et à l'échelle de test, ce qui implique d'utiliser plus de puissance de calcul pendant l'inférence pour augmenter les capacités de "raisonnement" d'un modèle (pensez des modèles comme R1). Récemment, des chercheurs de Google et de l'UC Berkeley ont abandonné un article que certaines personnes en ligne appellent une quatrième loi: «Recherche de temps de référence». Cette méthode fait cracher un tas de réponses possibles à une requête en même temps, puis choisir la meilleure. Les chercheurs affirment que cela peut faire monter les performances d'un modèle plus ancien, comme Gemini 1.5 Pro de Google, pour battre le modèle de raisonnement O1-Preview d'Openai sur les références scientifiques et mathématiques. Eric Zhao, un doctorat de Google et l'un des co-auteurs du journal, a partagé sur X qui, en échantillonnant au hasard 200 réponses et en laissant le modèle auto-vérifier, Gemini 1.5 - qu'il a appelé en plaisantant un "ancien modèle du début 2024" - pourrait surpasser O1-Preview et même s'approcher de l'O1. Il a souligné que l'auto-vérification devient plus facile à mesure que vous montez, ce qui est un peu contre-intuitif mais cool. Mais tout le monde n'est pas convaincu. Matthew Guzdial, chercheur de l'IA et professeur adjoint à l'Université de l'Alberta, a déclaré à TechCrunch que cette approche fonctionne mieux lorsque vous avez un moyen solide de juger les réponses. Mais la plupart des questions ne sont pas si simples. Il a dit: "Si nous ne pouvons pas écrire de code pour définir ce que nous voulons, nous ne pouvons pas utiliser la recherche [inférence]. Pour quelque chose comme l'interaction du langage général, nous ne pouvons pas faire cela ... ce n'est généralement pas une excellente approche pour résoudre réellement la plupart des problèmes." Zhao a répondu, disant que leur article examine les cas où vous n'avez pas de moyen clair de juger les réponses, et le modèle doit le comprendre seul. Il a fait valoir que l'écart entre avoir un moyen clair de juger et de ne pas en avoir peut rétrécir lorsque vous montez. Mike Cook, chercheur au King's College de Londres, a soutenu le point de vue de Guzdial, affirmant que la recherche en temps de référence n'améliore pas vraiment le raisonnement du modèle. Cela ressemble plus à une solution de contournement pour la tendance du modèle à faire des erreurs confiantes. Il a souligné que si votre modèle gâche 5% du temps, la vérification de 200 tentatives devrait rendre ces erreurs plus faciles à repérer. Cette nouvelle pourrait être un peu un descente pour l'industrie de l'IA, qui est toujours à la recherche de moyens de stimuler le «raisonnement» du modèle sans se ruiner. Comme les auteurs du journal l'ont noté, les modèles de raisonnement peuvent accumuler des milliers de dollars en coûts informatiques juste pour résoudre un problème mathématique. On dirait que la recherche de nouvelles techniques de mise à l'échelle est loin d'être terminée. * Mis à jour 3/20 5:12 AM PACIFIQUE: Ajout des commentaires du co-auteur de l'étude Eric Zhao, qui conteste une évaluation par un chercheur indépendant qui a critiqué l'œuvre. *

Article connexe

commentaires (35)