Le rapport de sécurité promis par xAI ne se concrétise pas

L'entreprise d'IA d'Elon Musk, xAI, n'a pas respecté le délai qu'elle s'était fixé pour publier un cadre de sécurité de l'IA finalisé, comme l'a souligné l'organisation de surveillance The Midas Project.
xAI n'est pas particulièrement reconnue pour son attachement aux normes conventionnelles de sécurité de l'IA. Des découvertes récentes révèlent que le chatbot Grok de l'entreprise génère sur demande des images de femmes dévêtues. Grok fait également preuve d'un langage beaucoup plus vulgaire que ses homologues Gemini et ChatGPT, utilisant des grossièretés avec un minimum de retenue.
Néanmoins, lors du sommet AI Seoul de février, une convention mondiale réunissant les dirigeants et les parties prenantes de l'IA, xAI a publié un projet de cadre détaillant son approche de la sécurité de l'IA. Ce document de huit pages présente les priorités de xAI en matière de sécurité et sa philosophie opérationnelle, y compris les méthodologies d'analyse comparative et les considérations relatives au déploiement des modèles d'IA.
Comme l'a fait remarquer le Midas Project dans son billet de mardi, le projet de cadre ne s'applique qu'aux futurs modèles d'IA non spécifiés "qui ne sont pas actuellement en cours de développement". En outre, il ne précise pas comment xAI identifiera et mettra en œuvre des stratégies d'atténuation des risques - une exigence fondamentale de l'accord signé par l'entreprise lors du sommet de Séoul sur l'IA.
Le projet de document indiquait que xAI publierait une politique de sécurité révisée "dans les trois mois", fixant une date limite au 10 mai. Cette date est passée sans que les canaux de communication officiels de xAI n'en fassent état.
Malgré les avertissements répétés de Musk sur les dangers de l'IA non réglementée, xAI conserve un bilan de sécurité préoccupant. Une étude récente de SaferAI, une organisation à but non lucratif axée sur la responsabilité des laboratoires d'IA, a placé xAI parmi les plus mauvais élèves de l'industrie en raison de ses protocoles de gestion des risques "très faibles".
Cela ne veut pas dire que les laboratoires d'IA concurrents sont beaucoup plus performants. Récemment, les rivaux de la xAI, dont Google et OpenAI, ont réduit les délais des tests de sécurité et retardé la publication des rapports sur la sécurité des modèles, voire les ont complètement supprimés. Certains experts craignent que cette apparente perte de priorité des mesures de sécurité coïncide avec le fait que les systèmes d'IA deviennent plus performants - et potentiellement plus dangereux - que jamais auparavant.
Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une durée limitée, accédez à une journée complète de présentations d'experts, d'ateliers et de réseautage précieux pour seulement 292 $.
Exposez à TechCrunch Sessions : AI
Réservez votre présence aux TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans dépenses majeures. Disponible jusqu'au 9 mai ou jusqu'à ce qu'il reste des espaces d'exposition.
Article connexe
La durée du bail conclu entre Anthropic et SpaceX divise les opinions
Au début du mois, xAI a conclu un accord informatique majeur avec Anthropic, s'engageant à verser des milliards de dollars par mois en échange d'un accès exclusif au cluster Colossus. Cet accord s'est
xAI fait l'objet d'une action en justice concernant les générateurs de son centre de données, mais poursuit son acquisition de 2,8 milliards de dollars
La société xAI d'Elon Musk fait l'objet de poursuites judiciaires pour l'utilisation de générateurs polluants dans un centre de données du Tennessee. Aujourd'hui, l'entreprise prévoit d'acquérir encor
xAI s'impose comme un nouvel acteur majeur du cloud computing
Mercredi, xAI et Anthropic ont annoncé un partenariat inattendu, le créateur de Claude acquérant « l'intégralité de la capacité de calcul du centre de données Colossus 1 [de xAI] ». Ce transfert d'env
Recommandations de sujets spéciaux liés
commentaires (1)

L'entreprise d'IA d'Elon Musk, xAI, n'a pas respecté le délai qu'elle s'était fixé pour publier un cadre de sécurité de l'IA finalisé, comme l'a souligné l'organisation de surveillance The Midas Project.
xAI n'est pas particulièrement reconnue pour son attachement aux normes conventionnelles de sécurité de l'IA. Des découvertes récentes révèlent que le chatbot Grok de l'entreprise génère sur demande des images de femmes dévêtues. Grok fait également preuve d'un langage beaucoup plus vulgaire que ses homologues Gemini et ChatGPT, utilisant des grossièretés avec un minimum de retenue.
Néanmoins, lors du sommet AI Seoul de février, une convention mondiale réunissant les dirigeants et les parties prenantes de l'IA, xAI a publié un projet de cadre détaillant son approche de la sécurité de l'IA. Ce document de huit pages présente les priorités de xAI en matière de sécurité et sa philosophie opérationnelle, y compris les méthodologies d'analyse comparative et les considérations relatives au déploiement des modèles d'IA.
Comme l'a fait remarquer le Midas Project dans son billet de mardi, le projet de cadre ne s'applique qu'aux futurs modèles d'IA non spécifiés "qui ne sont pas actuellement en cours de développement". En outre, il ne précise pas comment xAI identifiera et mettra en œuvre des stratégies d'atténuation des risques - une exigence fondamentale de l'accord signé par l'entreprise lors du sommet de Séoul sur l'IA.
Le projet de document indiquait que xAI publierait une politique de sécurité révisée "dans les trois mois", fixant une date limite au 10 mai. Cette date est passée sans que les canaux de communication officiels de xAI n'en fassent état.
Malgré les avertissements répétés de Musk sur les dangers de l'IA non réglementée, xAI conserve un bilan de sécurité préoccupant. Une étude récente de SaferAI, une organisation à but non lucratif axée sur la responsabilité des laboratoires d'IA, a placé xAI parmi les plus mauvais élèves de l'industrie en raison de ses protocoles de gestion des risques "très faibles".
Cela ne veut pas dire que les laboratoires d'IA concurrents sont beaucoup plus performants. Récemment, les rivaux de la xAI, dont Google et OpenAI, ont réduit les délais des tests de sécurité et retardé la publication des rapports sur la sécurité des modèles, voire les ont complètement supprimés. Certains experts craignent que cette apparente perte de priorité des mesures de sécurité coïncide avec le fait que les systèmes d'IA deviennent plus performants - et potentiellement plus dangereux - que jamais auparavant.
Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une durée limitée, accédez à une journée complète de présentations d'experts, d'ateliers et de réseautage précieux pour seulement 292 $.
Exposez à TechCrunch Sessions : AI
Réservez votre présence aux TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans dépenses majeures. Disponible jusqu'au 9 mai ou jusqu'à ce qu'il reste des espaces d'exposition.
La durée du bail conclu entre Anthropic et SpaceX divise les opinions
Au début du mois, xAI a conclu un accord informatique majeur avec Anthropic, s'engageant à verser des milliards de dollars par mois en échange d'un accès exclusif au cluster Colossus. Cet accord s'est
xAI fait l'objet d'une action en justice concernant les générateurs de son centre de données, mais poursuit son acquisition de 2,8 milliards de dollars
La société xAI d'Elon Musk fait l'objet de poursuites judiciaires pour l'utilisation de générateurs polluants dans un centre de données du Tennessee. Aujourd'hui, l'entreprise prévoit d'acquérir encor
xAI s'impose comme un nouvel acteur majeur du cloud computing
Mercredi, xAI et Anthropic ont annoncé un partenariat inattendu, le créateur de Claude acquérant « l'intégralité de la capacité de calcul du centre de données Colossus 1 [de xAI] ». Ce transfert d'env





Maison






