El organismo de IA del Reino Unido renombra al Instituto de Seguridad, firma a Mou con antrópico

El gobierno del Reino Unido está realizando un cambio significativo en su enfoque hacia la IA, con el objetivo de impulsar su economía e industria a través de esta tecnología. Como parte de esta nueva dirección, el Departamento de Ciencia, Industria y Tecnología ha anunciado un cambio de nombre del Instituto de Seguridad de la IA, establecido hace poco más de un año, al "Instituto de Seguridad de la IA". Este cambio de nombre refleja un cambio de enfoque desde los riesgos existenciales y sesgos en la IA hacia preocupaciones de ciberseguridad, específicamente fortaleciendo las salvaguardas contra amenazas relacionadas con la IA para la seguridad nacional y el crimen.

En conjunto con este cambio de marca, el gobierno ha establecido una nueva asociación con Anthropic. Aunque no se han detallado servicios específicos, el memorando de entendimiento sugiere explorar el uso del asistente de IA de Anthropic, Claude, en servicios públicos. Anthropic también contribuirá a la investigación científica y modelado económico, y en el Instituto de Seguridad de la IA, proporcionará herramientas para evaluar los riesgos de seguridad de la IA.

“La IA tiene el potencial de transformar cómo los gobiernos sirven a sus ciudadanos,” dijo el cofundador y CEO de Anthropic, Dario Amodei. “Esperamos explorar cómo el asistente de IA de Anthropic, Claude, podría ayudar a las agencias gubernamentales del Reino Unido a mejorar los servicios públicos, con el objetivo de descubrir nuevas formas de hacer que la información y los servicios vitales sean más eficientes y accesibles para los residentes del Reino Unido.”

Anthropic es la única empresa destacada en el anuncio de hoy, que coincide con una semana de eventos relacionados con la IA en Múnich y París. Sin embargo, el gobierno del Reino Unido también está trabajando con otras empresas de IA. En enero, se introdujeron nuevas herramientas impulsadas por OpenAI, y Peter Kyle, el secretario de estado para Tecnología, mencionó planes para colaborar con varias empresas de IA fundacionales, una estrategia ejemplificada por el acuerdo con Anthropic.

La reorientación del Instituto de Seguridad de la IA al Instituto de Seguridad de la IA, poco después de su lanzamiento, se alinea con el "Plan para el Cambio" centrado en la IA del gobierno laborista anunciado en enero. Este plan omitió notablemente términos como "seguridad," "daño," "existencial" y "amenaza," señalando un enfoque en el desarrollo económico a través de la IA en lugar de solo preocupaciones de seguridad.

Este cambio no es sorprendente, dado el objetivo del gobierno de estimular la inversión en una economía modernizada utilizando la IA. La estrategia incluye una colaboración más estrecha con Big Tech y fomentar el crecimiento de gigantes tecnológicos nacionales. Los funcionarios públicos tendrán acceso a un asistente de IA llamado "Humphrey" y se les anima a usar la IA para mejorar la eficiencia. Los consumidores se beneficiarán de billeteras digitales para documentos gubernamentales y chatbots.

Aunque los problemas de seguridad de la IA no se han resuelto completamente, la postura del gobierno parece ser que el progreso no debe verse obstaculizado solo por preocupaciones de seguridad. A pesar del cambio de nombre, el gobierno insiste en que la misión principal permanece sin cambios.

“Los cambios que anuncio hoy representan el siguiente paso lógico en cómo abordamos el desarrollo responsable de la IA – ayudándonos a liberar la IA y hacer crecer la economía como parte de nuestro Plan para el Cambio,” afirmó Kyle. “El trabajo del Instituto de Seguridad de la IA no cambiará, pero este enfoque renovado asegurará que nuestros ciudadanos – y los de nuestros aliados – estén protegidos de aquellos que buscarían usar la IA contra nuestras instituciones, valores democráticos y forma de vida.”

Ian Hogarth, quien continúa presidiendo el instituto, añadió, “El enfoque del Instituto desde el inicio ha sido la seguridad y hemos construido un equipo de científicos enfocados en evaluar riesgos graves para el público. Nuestro nuevo equipo de uso indebido criminal y la profundización de la asociación con la comunidad de seguridad nacional marcan la siguiente etapa para abordar esos riesgos.”

A nivel global, el énfasis en la seguridad de la IA parece estar cambiando. En los EE.UU., el Instituto de Seguridad de la IA enfrenta el riesgo de ser desmantelado, una posibilidad insinuada por el Vicepresidente J.D. Vance durante un discurso en París.