L'IA devenant `` Oui-Men sur les serveurs '', avertit l'étreinte face à face CSO

Thomas Wolf, cofondateur et directeur scientifique chez Hugging Face, offre une perspective plus prudente sur le potentiel de l'IA à révolutionner la science, en contraste avec les affirmations audacieuses souvent faites par d'autres fondateurs d'entreprises d'IA. Dans un essai partagé sur X, Wolf a exprimé ses préoccupations que l'IA risque de devenir de simples « béni-oui-oui sur serveurs » sans percées significatives dans la recherche. Il soutient que la trajectoire actuelle du développement de l'IA ne produira pas de systèmes capables de la pensée créative et originale nécessaire pour des réalisations scientifiques révolutionnaires, comme celles qui méritent des prix Nobel.

Wolf remet en question l'idée que des génies comme Newton ou Einstein ne sont que des versions amplifiées d'étudiants brillants. Il estime que pour reproduire un tel génie dans un centre de données, l'IA doit non seulement connaître toutes les réponses, mais aussi être capable de poser des questions que personne d'autre n'a envisagées ou osé poser. Cette perspective diffère de celle du PDG d'OpenAI, Sam Altman, qui envisage une IA « superintelligente » accélérant la découverte scientifique, et du PDG d'Anthropic, Dario Amodei, qui prédit que l'IA pourrait aider à trouver des remèdes pour la plupart des cancers.

La critique de Wolf sur l'IA actuelle est qu'elle échoue à générer de nouvelles connaissances en reliant des faits jusqu'alors non connectés. Malgré l'accès à d'énormes quantités de données internet, l'IA comble principalement les lacunes des connaissances humaines existantes, selon Wolf. Ce point de vue est partagé par d'autres experts en IA, comme l'ancien ingénieur de Google François Chollet, qui soutiennent que bien que l'IA puisse mémoriser des schémas de raisonnement, elle peine à générer un nouveau raisonnement dans des situations inédites.

Wolf suggère que les laboratoires d'IA construisent actuellement des « étudiants très obéissants » plutôt que les révolutionnaires scientifiques nécessaires pour une véritable innovation. Il souligne que les systèmes d'IA actuels ne sont pas conçus pour remettre en question ou proposer des idées qui contredisent leurs données d'entraînement, les limitant à répondre à des questions connues. Wolf insiste sur la nécessité d'une IA capable de défier les connaissances établies et de demander : « Et si tout le monde avait tort à ce sujet ? » même lorsque toutes les preuves suggèrent le contraire.

Il attribue une partie du problème à une « crise d'évaluation » dans l'IA, où les benchmarks utilisés pour mesurer les améliorations des systèmes se concentrent souvent sur des questions avec des réponses claires et fermées. Pour y remédier, Wolf propose que l'industrie de l'IA devrait se tourner vers l'évaluation de la capacité des IA à adopter des approches contre-factuelles audacieuses, à faire des propositions générales à partir d'indices minimes et à poser des questions non évidentes qui pourraient ouvrir de nouvelles voies de recherche.

Tout en reconnaissant la difficulté de définir une telle mesure, Wolf estime que c'est une entreprise valable. Il souligne que l'essence de la science réside dans le fait de poser les bonnes questions et de défier les connaissances acquises. Plutôt qu'un étudiant noté A+ capable de répondre à toutes les questions avec des connaissances générales, Wolf soutient qu'il faut un étudiant noté B capable de voir et de remettre en question ce que les autres ont manqué.