Royaume-Uni Body renoms à l'Institut de sécurité, signe du protocole d'entente avec anthropique

Le gouvernement britannique opère un changement significatif dans son approche de l'IA, visant à renforcer son économie et son industrie grâce à cette technologie. Dans le cadre de cette nouvelle orientation, le Département de la Science, de l'Industrie et de la Technologie a annoncé le changement de nom de l'Institut de Sécurité de l'IA, créé il y a un peu plus d'un an, en « Institut de Sécurité de l'IA ». Ce changement de nom reflète un recentrage des préoccupations, passant des risques existentiels et des biais de l'IA aux questions de cybersécurité, notamment en renforçant les protections contre les menaces liées à l'IA pour la sécurité nationale et la criminalité.

En parallèle de ce changement de nom, le gouvernement a conclu un nouveau partenariat avec Anthropic. Bien que les services spécifiques n'aient pas été détaillés, le protocole d'accord suggère d'explorer l'utilisation de l'assistant IA d'Anthropic, Claude, dans les services publics. Anthropic contribuera également à la recherche scientifique et à la modélisation économique, et à l'Institut de Sécurité de l'IA, il fournira des outils pour évaluer les risques de sécurité de l'IA.

« L'IA a le potentiel de transformer la manière dont les gouvernements servent leurs citoyens », a déclaré Dario Amodei, cofondateur et PDG d'Anthropic. « Nous sommes impatients d'explorer comment l'assistant IA Claude d'Anthropic pourrait aider les agences gouvernementales britanniques à améliorer les services publics, dans le but de découvrir de nouvelles façons de rendre les informations et services essentiels plus efficaces et accessibles aux résidents britanniques. »

Anthropic est la seule entreprise mise en avant dans l'annonce d'aujourd'hui, qui coïncide avec une semaine d'événements liés à l'IA à Munich et Paris. Cependant, le gouvernement britannique collabore également avec d'autres entreprises d'IA. En janvier, de nouveaux outils alimentés par OpenAI ont été introduits, et Peter Kyle, secrétaire d'État à la Technologie, a mentionné des plans pour collaborer avec diverses entreprises d'IA fondamentales, une stratégie illustrée par l'accord avec Anthropic.

La réorientation de l'Institut de Sécurité de l'IA vers l'Institut de Sécurité de l'IA, peu après son lancement, s'aligne sur le « Plan pour le Changement » centré sur l'IA du gouvernement travailliste, annoncé en janvier. Ce plan a notamment omis des termes comme « sécurité », « préjudice », « existentiel » et « menace », signalant un accent mis sur le développement économique grâce à l'IA plutôt que sur les seules préoccupations de sécurité.

Ce changement n'est pas surprenant, étant donné l'objectif du gouvernement de stimuler l'investissement dans une économie modernisée grâce à l'IA. La stratégie inclut une collaboration plus étroite avec les grandes entreprises technologiques et le soutien à la croissance de géants technologiques locaux. Les fonctionnaires auront accès à un assistant IA nommé « Humphrey » et sont encouragés à utiliser l'IA pour améliorer l'efficacité. Les consommateurs bénéficieront de portefeuilles numériques pour les documents gouvernementaux et de chatbots.

Bien que les questions de sécurité de l'IA n'aient pas été entièrement résolues, la position du gouvernement semble être que le progrès ne doit pas être entravé uniquement par des préoccupations de sécurité. Malgré le changement de nom, le gouvernement insiste sur le fait que la mission principale reste inchangée.

« Les changements que j'annonce aujourd'hui représentent la prochaine étape logique dans notre approche du développement responsable de l'IA – nous aidant à libérer l'IA et à faire croître l'économie dans le cadre de notre Plan pour le Changement », a déclaré Kyle. « Le travail de l'Institut de Sécurité de l'IA ne changera pas, mais ce recentrage garantira que nos citoyens – et ceux de nos alliés – sont protégés contre ceux qui chercheraient à utiliser l'IA contre nos institutions, nos valeurs démocratiques et notre mode de vie. »

Ian Hogarth, qui continue de présider l'institut, a ajouté : « L'accent de l'Institut a toujours été mis sur la sécurité, et nous avons constitué une équipe de scientifiques axée sur l'évaluation des risques graves pour le public. Notre nouvelle équipe sur l'utilisation criminelle et l'approfondissement du partenariat avec la communauté de la sécurité nationale marquent la prochaine étape dans la gestion de ces risques. »

À l'échelle mondiale, l'accent sur la sécurité de l'IA semble évoluer. Aux États-Unis, l'Institut de Sécurité de l'IA risque d'être démantelé, une possibilité évoquée par le vice-président J.D. Vance lors d'un discours à Paris.