Royaume-Uni Body renoms à l'Institut de sécurité, signe du protocole d'entente avec anthropique

Le gouvernement britannique fait un changement significatif dans son approche de l'IA, visant à renforcer son économie et son industrie grâce à cette technologie. Dans le cadre de cette nouvelle direction, le Département des sciences, de l'industrie et de la technologie a annoncé un changement de marque de l'Institut de sécurité de l'IA, établi il y a un peu plus d'un an, au «IA Security Institute». Ce changement de nom reflète un changement de mise au point des risques et des préjugés existentiels dans l'IA vers les problèmes de cybersécurité, améliorant spécifiquement les garanties contre les menaces liées à l'IA pour la sécurité nationale et la criminalité. Parallèlement à ce changement de marque, le gouvernement a conclu un nouveau partenariat avec Anthropic. Bien que des services spécifiques n'aient pas été détaillés, le mémorandum de compréhension suggère d'explorer l'utilisation de l'assistant d'IA d'Anthropic, Claude, dans les services publics. Anthropic contribuera également à la recherche scientifique et à la modélisation économique, et à l'Institut de sécurité de l'IA, il fournira des outils pour évaluer les risques de sécurité de l'IA. «L'IA a le potentiel de transformer la façon dont les gouvernements servent leurs citoyens», a déclaré le co-fondateur et PDG d'Anthropic, Dario Amodei. «Nous sommes impatients d'explorer comment l'assistante AI d'Anthropic, Claude, pourrait aider les agences gouvernementales britanniques à améliorer les services publics, dans le but de découvrir de nouvelles façons de rendre les informations et services vitaux plus efficaces et accessibles aux résidents britanniques.» Anthropic est la seule entreprise soulignée dans l'annonce d'aujourd'hui, qui s'aligne sur une semaine d'événements liés à l'IA à Munich et à Paris. Cependant, le gouvernement britannique travaille également avec d'autres sociétés d'IA. En janvier, de nouveaux outils propulsés par OpenAI ont été introduits, et Peter Kyle, le secrétaire d'État à la technologie, a mentionné les plans pour collaborer avec diverses sociétés d'IA fondamentales, une stratégie illustrée par l'accord avec Anthropic. La réorientation de l'Institut de sécurité de l'IA à l'Institut de sécurité AI, peu de temps après son lancement, s'aligne sur le "plan de changement" centré sur l'IA du gouvernement travailliste annoncé en janvier. Ce plan a notamment omis des termes comme «sécurité», «préjudice», «existentiel» et «menace», signalant un accent sur le développement économique via l'IA plutôt que sur les problèmes de sécurité. Ce changement n'est pas surprenant, étant donné l'objectif du gouvernement de stimuler l'investissement dans une économie modernisée utilisant l'IA. La stratégie comprend une collaboration plus étroite avec Big Tech et favoriser la croissance des géants de la technologie locaux. Les fonctionnaires auront accès à un assistant d'IA nommé "Humphrey" et seront encouragés à utiliser l'IA pour améliorer l'efficacité. Les consommateurs bénéficieront de portefeuilles numériques pour les documents gouvernementaux et les chatbots. Bien que les problèmes de sécurité de l'IA n'aient pas été entièrement résolus, la position du gouvernement semble être que les progrès ne devraient pas être entravés par les seuls problèmes de sécurité. Malgré le changement de nom, le gouvernement insiste sur le fait que la mission principale reste inchangée. "Les changements que j'annonce aujourd'hui représentent la prochaine étape logique dans la façon dont nous abordons le développement responsable de l'IA - nous aidant à libérer l'IA et à développer l'économie dans le cadre de notre plan de changement", a déclaré Kyle. «Le travail de l'Institut de sécurité de l'IA ne changera pas, mais cette orientation renouvelée garantira que nos citoyens - et ceux de nos alliés - sont protégés de ceux qui chercheraient à utiliser l'IA contre nos institutions, nos valeurs démocratiques et notre mode de vie.» Ian Hogarth, qui continue de présider l'institut, a ajouté: «L'institut se concentre dès le départ sur la sécurité et nous avons constitué une équipe de scientifiques axés sur l'évaluation des risques graves pour le public. Notre nouvelle équipe de mauvaise utilisation criminelle et approfondissant le partenariat avec la communauté de la sécurité nationale marquent la prochaine étape de la lutte contre ces risques.» À l'échelle mondiale, l'accent mis sur la sécurité de l'IA semble changer. Aux États-Unis, l'Institut de sécurité de l'IA risque le risque d'être démantelé, une possibilité laissée en question par le vice-président JD Vance lors d'un discours à Paris.

Article connexe

Commentaires (30)