L'ancien responsable de la sécurité de Google met en garde : l'IA pourrait nuire aux enfants davantage que les réseaux sociaux

Tom Siegel, fondateur de la division « Confiance et sécurité » de Google, a plaidé pour une pause dans le développement de l’intelligence artificielle, avertissant que le secteur technologique répète les erreurs de l’ère des réseaux sociaux et met en danger les enfants avec des conséquences potentiellement plus graves. Alors que les entreprises de réseaux sociaux font face à d’importants procès et règlements financiers pour avoir mis en danger les mineurs, les gouvernements du monde entier restreignent de plus en plus l’accès des jeunes aux plateformes en ligne.

« Nous sommes dans une situation très critique », répète l’industrie en reproduisant ses erreurs

Siegel, ancien vice-président de la « Confiance et sécurité » chez Google, a déclaré à Reuters que l’impact actuel de l’intelligence artificielle sur les enfants est désastreux. Il a soutenu qu’il est irréaliste de s’attendre à ce que l’industrie s’autorégule sans intervention externe. Ses préoccupations rejoignent les inquiétudes plus larges parmi les experts technologiques et les universitaires : l’intelligence artificielle présente des menaces plus profondes pour les jeunes que ne l’ont fait les réseaux sociaux, yet les entreprises se précipitent pour intégrer des fonctionnalités avancées de chatbots utilisées par des millions de jeunes chaque jour.

Cet avertissement est fondé sur des événements récents. L’année dernière, Reuters a divulgué un document interne de politique de Meta révélant que son chatbot pouvait engager des conversations romantiques ou sexuelles avec des enfants, déclenchant une enquête du Congrès. Malgré cela, les cadres réglementaires n’ont pas réussi à suivre le rythme de l’évolution rapide de l’intelligence artificielle. Cette semaine, Siegel a rejoint Common Sense Media, une organisation à but non lucratif dédiée à l’évaluation de l’adéquation des médias pour les enfants depuis 2003. En mai, l’organisation a lancé l’Institut pour la sécurité des adolescents face à l’intelligence artificielle, avec Siegel en tant que premier directeur exécutif. Soutenu par Anthropic et la Fondation OpenAI, il vise à établir des normes de responsabilité pour les entreprises d’intelligence artificielle et à favoriser la collaboration avec les entreprises et les entités tierces.

Siegel a travaillé chez Google de 2004 à 2019, quittant l’entreprise en raison de sa conviction que l’industrie s’était stagnée dans la création d’environnements en ligne sûrs. Il a ensuite cofondé TrustLab, une startup de sécurité, dont il est récemment parti en tant que PDG. Il a souligné que les entreprises actuelles d’intelligence artificielle lancent de nouvelles fonctionnalités pour les enfants sans garanties suffisantes. « Nous faisons face à un risque de préjudice très, très grave », a-t-il déclaré, citant des dangers allant du suicide et des crises de santé mentale au « transfert cognitif » – l’érosion des compétences de pensée critique lorsque les utilisateurs s’appuient sur l’intelligence artificielle pour obtenir des réponses.

Appel à la vérification de l’âge, Google et OpenAI répondent

Siegel a proposé qu’Anthropic et OpenAI mettent en œuvre une vérification de l’âge plus stricte pour empêcher les mineurs d’utiliser les chatbots. Il a suggéré que Google puisse ajouter des interrupteurs pour désactiver les aperçus de l’intelligence artificielle et les modes de recherche, similaires aux filtres existants pour le contenu explicite. Bien que ces mesures puissent temporairement affecter l’utilisation et les profits, il a averti que l’inaction pourrait entraîner des procès et des sanctions réglementaires plus sévères.

En réponse, un porte-parole de Google a noté que les parents peuvent complètement restreindre l’accès de leurs enfants au moteur de recherche via des fonctionnalités de contrôle, soulignant que « les fonctions de recherche par intelligence artificielle sont un moyen très utile pour les enfants et les adolescents d’apprendre, d’explorer et de comprendre le monde. » Un porte-parole d’OpenAI a déclaré que, au-delà de l’âge auto-déclaré, l’entreprise utilise des « signaux liés au compte et au comportement » pour identifier les utilisateurs mineurs. « Bien qu’aucune méthode unique de vérification de l’âge ne soit parfaite, nous continuerons à tester et à améliorer ces systèmes, y compris en empêchant les tentatives de contourner les mesures de sécurité. »