L'occasion manquée du sommet de l'IA, explique le PDG d'Anthropic

Dans une déclaration publiée mardi, Dario Amodei, PDG de la startup AI Anthropic, a exprimé sa déception face au Sommet de l'Action AI tenu à Paris cette semaine, le qualifiant d'"opportunité manquée". Il a appelé l'industrie de l'AI et les responsables gouvernementaux à agir avec plus de rapidité et de clarté.

"Nous étions ravis de participer au Sommet de l'Action AI à Paris et saluons le gouvernement français pour avoir réuni les entreprises AI, les chercheurs et les décideurs politiques du monde entier," a déclaré Amodei. "Cependant, l'urgence et la focalisation nécessaires sur les questions clés n'ont pas suivi le rythme rapide de l'avancement de la technologie."

La critique d'Amodei sur le sommet, qui s'inscrit dans une série de conférences visant à forger un consensus sur la gouvernance de l'AI, a fait écho aux sentiments de plusieurs universitaires qui ont critiqué l'événement plus tôt dans la semaine. Un universitaire a déclaré à Transformer que les engagements du sommet, non signés par les États-Unis et le Royaume-Uni, étaient essentiellement des "promesses vides enveloppées de platitudes."

Lors de la conférence, le vice-président américain JD Vance a présenté une perspective radicalement différente, critiquant ce qu'il a décrit comme des réglementations trop restrictives sur l'AI proposées par l'Europe. Il a également contesté l'accent mis par la conférence sur la modération de contenu, rejetant les termes "durable" et "inclusif" dans les engagements comme des tentatives voilées de "censure autoritaire."

Amodei a souligné l'évolution rapide de l'AI, avertissant des résultats potentiellement catastrophiques si elle n'est pas correctement régulée. "Considérez les systèmes AI comme une nouvelle nation remplie d'êtres hautement intelligents entrant sur la scène mondiale," a-t-il expliqué. "L'AI avancée pose de sérieuses menaces à la sécurité mondiale, en particulier par une utilisation abusive par des acteurs non étatiques... Il est crucial que les nations démocratiques prennent la tête du développement de l'AI, empêchant les régimes autoritaires d'atteindre une suprématie militaire mondiale grâce à l'AI."

Il a exhorté les gouvernements à surveiller activement l'utilisation de l'AI et à mettre en œuvre des politiques garantissant des bénéfices économiques équitables des technologies AI avancées. Amodei a également souligné la nécessité d'une transparence accrue du gouvernement concernant la sécurité et la sûreté de l'AI, ainsi que des stratégies pour évaluer les risques de l'AI.

Cette perspective contraste avec celle d'OpenAI, qui a exprimé sa confiance en ce que la conférence de Paris marque "une autre étape importante vers le développement responsable et bénéfique de l'AI pour tous."

Anthropic a historiquement été plus ouvert à la régulation de l'AI. Amodei a précédemment exprimé des préoccupations concernant les impacts négatifs potentiels d'une AI non régulée sur l'économie, la société et la sécurité. Anthropic a subtilement soutenu le projet de loi SB 1047 en Californie, une législation complète sur la régulation de l'AI qui a suscité beaucoup de débats avant d'être rejetée par le gouverneur Gavin Newsom l'automne dernier. En revanche, OpenAI s'est opposé au projet de loi.

Cependant, il convient de noter que la position d'Anthropic n'est pas purement altruiste. À l'instar des récents écrits du PDG d'OpenAI, Sam Altman, Amodei n'a pas fourni de propositions spécifiques sur la manière d'assurer que les bénéfices de l'AI avancée soient largement et équitablement distribués.

Lisez notre couverture complète du Sommet de l'Action sur l'Intelligence Artificielle à Paris.