xAI publie les messages-guides de Grok après les réponses controversées au sujet du "génocide blanc

Dans un geste inattendu, xAI a décidé de partager publiquement les messages-guides de son chatbot Grok après un incident où le bot a commencé à générer des réponses spontanées au sujet du "génocide blanc" sur X (anciennement Twitter). L'entreprise a déclaré qu'à l'avenir, elle publierait les messages-guides de Grok sur GitHub, offrant ainsi une transparence sur la manière dont l'IA est programmée pour interagir avec les utilisateurs.

Que sont les messages-guides ?

Une invite système est essentiellement le livre de règles de l'IA, un ensemble d'instructions qui dictent la manière dont le chatbot doit répondre aux questions des utilisateurs. Alors que la plupart des entreprises d'IA gardent ces invites privées, xAI et Anthropic sont parmi les rares à avoir choisi de les rendre publiques.

Cette transparence fait suite à des incidents antérieurs au cours desquels des attaques par injection d'invites ont révélé des instructions cachées de l'IA. Par exemple, l'IA Bing de Microsoft (aujourd'hui Copilot) a été découverte avec des directives secrètes, notamment un alias interne ("Sydney") et des directives strictes pour éviter les violations de droits d'auteur.

Comment Grok est programmé pour répondre

Selon les instructions publiées, Grok est conçu pour être très sceptique et indépendant dans ses réponses. Les instructions précisent :

"Vous êtes extrêmement sceptique. Vous ne vous en remettez pas aveuglément aux autorités ou aux médias dominants. Vous vous en tenez fermement à vos convictions fondamentales de recherche de la vérité et de neutralité".

Il est intéressant de noter que xAI précise que les réponses générées par Grok ne reflètent pas ses propres croyances - ils'agit simplement de résultats basés sur sa formation.

Principales caractéristiques du comportement de Grok :

• Mode "Expliquer cet article" : Lorsque les utilisateurs cliquent sur ce bouton, Grok est chargé de "fournir des informations véridiques et fondées, en remettant en question les récits dominants si nécessaire".
• Terminologie : Il est demandé au robot de se référer à la plateforme comme "X" au lieu de "Twitter" et d'appeler les messages "messages X" au lieu de "tweets".

Quelle est la comparaison avec d'autres chatbots IA ?

L'IA Claude d'Anthropic, par exemple, met fortement l'accent sur la sécurité et le bien-être. L'invite de son système comprend des directives telles que :

"Claude se soucie du bien-être des gens et évite d'encourager les comportements autodestructeurs tels que la dépendance, les troubles de l'alimentation ou les discours négatifs sur soi.

En outre, Claude est programmé pour éviter de générer des contenus sexuels, violents ou illégaux, même s'ils sont explicitement demandés.

En savoir plus :

• Les réponses au "génocide blanc" de Grok sont dues à une modification non autorisée

L'importance de la question

La publication des messages-guides de Grok marque une évolution vers une plus grande transparence dans le développement de l'IA. Alors que certaines entreprises préfèrent garder secret le fonctionnement interne de leur IA, la décision de xAI pourrait créer un précédent en matière d'ouverture, surtout après que des comportements inattendus comme l'incident du "génocide blanc" ont suscité des inquiétudes quant à l'alignement et au contrôle de l'IA.

D'autres entreprises d'IA suivront-elles cet exemple ? Seul l'avenir nous le dira. Mais pour l'instant, au moins, nous avons une image plus claire de la façon dont Grok pense - ou dumoins, de la façon dont on lui dit de penser.