Prevure à l'échelle AI remise en question par les experts

Il y a eu un certain buzz sur les réseaux sociaux concernant la découverte par des chercheurs d'une nouvelle "loi d'échelle" pour l'IA, mais les experts la prennent avec des pincettes. Les lois d'échelle de l'IA, qui ressemblent plus à des lignes directrices informelles, montrent comment les modèles d'IA s'améliorent lorsqu'on leur fournit plus de données et de puissance de calcul. Jusqu'à il y a environ un an, la grande tendance était axée sur le "pré-entraînement" – en gros, entraîner des modèles plus grands sur des ensembles de données plus vastes. Cela reste d'actualité, mais maintenant, deux autres lois d'échelle sont entrées en jeu : l'échelle post-entraînement, qui consiste à ajuster le comportement d'un modèle, et l'échelle au moment du test, qui implique d'utiliser plus de puissance de calcul pendant l'inférence pour améliorer les capacités de "raisonnement" d'un modèle (pensez à des modèles comme R1).

Récemment, des chercheurs de Google et de l'UC Berkeley ont publié un article que certains sur Internet qualifient de quatrième loi : la "recherche au moment de l'inférence". Cette méthode pousse le modèle à produire simultanément plusieurs réponses possibles à une requête, puis à choisir la meilleure. Les chercheurs affirment que cela peut améliorer les performances d'un modèle plus ancien, comme Gemini 1.5 Pro de Google, pour surpasser le modèle de "raisonnement" o1-preview d'OpenAI sur des benchmarks scientifiques et mathématiques.

Eric Zhao, doctorant chez Google et co-auteur de l'article, a partagé sur X qu'en échantillonnant aléatoirement 200 réponses et en laissant le modèle s'auto-vérifier, Gemini 1.5 – qu'il a qualifié en plaisantant de "modèle ancien du début 2024" – pouvait surpasser o1-preview et même se rapprocher d'o1. Il a souligné que l'auto-vérification devient plus facile à mesure que l'on augmente l'échelle, ce qui est plutôt contre-intuitif mais intéressant.

Mais tout le monde n'est pas convaincu. Matthew Guzdial, chercheur en IA et professeur adjoint à l'Université de l'Alberta, a déclaré à TechCrunch que cette approche fonctionne mieux lorsqu'on dispose d'un moyen solide pour évaluer les réponses. La plupart des questions ne sont pas aussi simples, cependant. Il a dit : "Si nous ne pouvons pas écrire de code pour définir ce que nous voulons, nous ne pouvons pas utiliser la recherche [au moment de l'inférence]. Pour quelque chose comme l'interaction linguistique générale, nous ne pouvons pas faire cela... Ce n'est généralement pas une bonne approche pour résoudre la plupart des problèmes."

Zhao a répondu en disant que leur article examine justement les cas où il n'y a pas de moyen clair pour évaluer les réponses, et le modèle doit le déterminer par lui-même. Il a soutenu que l'écart entre avoir un moyen clair d'évaluer et ne pas en avoir peut se réduire à mesure que l'on augmente l'échelle.

Mike Cook, chercheur à King's College London, a appuyé l'opinion de Guzdial, déclarant que la recherche au moment de l'inférence ne rend pas vraiment le raisonnement du modèle meilleur. C'est plus une solution de contournement pour la tendance du modèle à faire des erreurs avec assurance. Il a souligné que si votre modèle se trompe 5 % du temps, vérifier 200 tentatives devrait faciliter la détection de ces erreurs.

Cette nouvelle pourrait être un peu décevante pour l'industrie de l'IA, qui est toujours à la recherche de moyens d'améliorer le "raisonnement" des modèles sans se ruiner. Comme l'ont noté les auteurs de l'article, les modèles de raisonnement peuvent engendrer des milliers de dollars en coûts de calcul juste pour résoudre un problème mathématique.

Il semble que la recherche de nouvelles techniques d'échelle soit loin d'être terminée.

Mise à jour le 20/03 à 5h12 du matin, heure du Pacifique : Ajout des commentaires du co-auteur de l'étude, Eric Zhao, qui conteste une évaluation faite par un chercheur indépendant ayant critiqué le travail.