Musk critique OpenAI dans une déposition au sujet d'une remarque sur le suicide de Grok

Dans une déposition récemment publiée dans le cadre du procès intenté par Elon Musk contre OpenAI, le dirigeant technologique a critiqué les pratiques de sécurité d'OpenAI, affirmant que sa propre entreprise, xAI, accordait une plus grande priorité à la sécurité. Il a même déclaré : « Aucun suicide lié à Grok n'a été signalé, alors que certains semblent avoir été commis en relation avec ChatGPT. »

Cette déclaration a été faite lors d'un interrogatoire sur une lettre publique que Musk a approuvée en mars 2023, exhortant les laboratoires d'IA à suspendre pendant au moins six mois le développement de systèmes dépassant les capacités de GPT-4. Signée par plus de 1 100 personnes, dont de nombreux spécialistes de l'IA, la lettre avertissait que les laboratoires d'IA se livraient à une concurrence effrénée pour créer des esprits numériques de plus en plus puissants, sans surveillance ni contrôle adéquats.

Ces préoccupations ont depuis gagné du terrain. OpenAI fait désormais face à plusieurs poursuites judiciaires alléguant que les méthodes de conversation persuasives de ChatGPT ont eu un effet néfaste sur le bien-être mental des utilisateurs, conduisant dans certains cas au suicide. Le commentaire de Musk laisse entendre que ces événements pourraient étayer sa contestation judiciaire contre OpenAI.

La transcription du témoignage vidéo de Musk, enregistré en septembre, a été rendue publique cette semaine, avant le procès devant jury prévu le mois prochain.

Le procès contre OpenAI porte sur sa transition d'un organisme de recherche à but non lucratif vers une entité à but lucratif, ce qui, selon Musk, enfreint ses accords fondateurs initiaux. Il soutient que les partenariats commerciaux d'OpenAI pourraient nuire à la sécurité de l'IA en privilégiant la rapidité, l'échelle et le profit au détriment de la sécurité.

Cependant, depuis cet enregistrement, xAI a également rencontré des problèmes de sécurité. Le mois dernier, la plateforme sociale X de Musk a été inondée d'images nues non consensuelles générées par l'IA, certaines représentant apparemment des mineurs, produites par Grok de xAI. Cela a donné lieu à une enquête du bureau du procureur général de Californie. L'Union européenne a également lancé sa propre enquête, plusieurs gouvernements mettant en place des restrictions ou des interdictions.

Dans la nouvelle déposition, Musk a déclaré avoir signé la lettre sur la sécurité de l'IA parce que « cela semblait être une bonne idée », et non parce qu'il venait de créer une entreprise d'IA pour rivaliser avec OpenAI.

« Je l'ai signée, comme beaucoup d'autres, pour encourager un développement prudent de l'IA », a expliqué Musk. « Mon objectif était simplement de m'assurer que la sécurité de l'IA reçoive l'attention qu'elle mérite. »

Musk a également abordé d'autres sujets dans sa déposition, notamment l'intelligence artificielle générale (AGI) — une IA capable d'égaler ou de dépasser le raisonnement humain dans diverses tâches —, soulignant qu'elle « comporte des risques ». Il a en outre admis qu'il « s'était trompé » au sujet d'un don présumé de 100 millions de dollars à OpenAI ; la plainte modifiée indique que le montant réel était d'environ 44,8 millions de dollars.

Il a également retracé les origines d'OpenAI, expliquant qu'il était « de plus en plus préoccupé par le monopole potentiel de Google dans le domaine de l'IA » et qu'il avait trouvé ses discussions avec le cofondateur de Google, Larry Page, « alarmantes en raison de son manque apparent de sérieux concernant la sécurité de l'IA ». Musk a déclaré qu'OpenAI avait été créé pour contrer cette menace émergente.