El organismo de IA del Reino Unido renombra al Instituto de Seguridad, firma a Mou con antrópico

El gobierno del Reino Unido está haciendo un cambio significativo en su enfoque para la IA, con el objetivo de reforzar su economía e industria a través de esta tecnología. Como parte de esta nueva dirección, el Departamento de Ciencia, Industria y Tecnología ha anunciado un cambio de marca del Instituto de Seguridad de AI, establecido hace poco más de un año, al "Instituto de Seguridad de AI". Este cambio en el nombre refleja un cambio en el enfoque de los riesgos y sesgos existenciales en la IA a las preocupaciones de ciberseguridad, mejorando específicamente las salvaguardas contra las amenazas relacionadas con la IA a la seguridad nacional y el delito. Junto con este cambio de marca, el gobierno ha participado en una nueva asociación con Anthrope. Aunque los servicios específicos no se han detallado, el memorando de entendimiento sugiere explorar el uso del asistente de IA de Anthrope, Claude, en los servicios públicos. Anthrope también contribuirá a la investigación científica y al modelado económico, y en el Instituto de Seguridad de AI, suministrará herramientas para evaluar los riesgos de seguridad de la IA. "La IA tiene el potencial de transformar la forma en que los gobiernos sirven a sus ciudadanos", dijo el cofundador y CEO de Anthrope Dario Amodei. "Esperamos explorar cómo el asistente de IA de AI de Anthrope, Claude, podría ayudar a las agencias gubernamentales del Reino Unido a mejorar los servicios públicos, con el objetivo de descubrir nuevas formas de hacer que la información y los servicios vitales sean más eficientes y accesibles para los residentes del Reino Unido". Anthrope es la única compañía destacada en el anuncio de hoy, que se alinea con una semana de eventos relacionados con la IA en Munich y París. Sin embargo, el gobierno del Reino Unido también está trabajando con otras compañías de IA. En enero, se introdujeron nuevas herramientas impulsadas por OpenAI, y Peter Kyle, el Secretario de Estado de Tecnología, mencionó planes para colaborar con varias compañías de IA fundamentales, una estrategia ejemplificada por el acuerdo con Anthrope. La reorientación del Instituto de Seguridad de AI al Instituto de Seguridad de AI, poco después de su lanzamiento, se alinea con el "Plan for Change" centrado en la IA del gobierno laborista anunciado en enero. Este plan omitió notablemente términos como "seguridad", "daño", "existencial" y "amenaza", señalando un enfoque en el desarrollo económico a través de IA en lugar de únicamente en las preocupaciones de seguridad. Este cambio no es sorprendente, dado el objetivo del gobierno de estimular la inversión en una economía modernizada utilizando IA. La estrategia incluye una colaboración más estrecha con Big Tech y fomentando el crecimiento de los gigantes tecnológicos de cosecha propia. Los funcionarios públicos tendrán acceso a un asistente de IA llamado "Humphrey", y se les alienta a usar IA para mejorar la eficiencia. Los consumidores se beneficiarán de las billeteras digitales para documentos gubernamentales y chatbots. Si bien los problemas de seguridad de IA no se han resuelto por completo, la postura del gobierno parece ser que el progreso no debería verse obstaculizado solo por las preocupaciones de seguridad. A pesar del cambio de nombre, el gobierno insiste en que la misión central permanece sin cambios. "Los cambios que estoy anunciando hoy representan el siguiente paso lógico en cómo nos acercamos al desarrollo responsable de la IA, ayudándonos a desatar la IA y hacer crecer la economía como parte de nuestro plan para el cambio", dijo Kyle. "El trabajo del Instituto de Seguridad de AI no cambiará, pero este enfoque renovado garantizará que nuestros ciudadanos, y los de nuestros aliados, estén protegidos de aquellos que buscarían usar IA contra nuestras instituciones, valores democráticos y forma de vida". Ian Hogarth, quien continúa presidiendo el Instituto, agregó: "El enfoque del Instituto desde el principio ha sido en la seguridad y hemos creado un equipo de científicos enfocados en evaluar los riesgos graves para el público. Nuestro nuevo equipo de uso penal y la asociación profunda con la comunidad de seguridad nacional marcan la siguiente etapa de abordar esos riesgos". A nivel mundial, el énfasis en la seguridad de la IA parece estar cambiando. En los Estados Unidos, el Instituto de Seguridad de AI enfrenta el riesgo de ser desmantelado, una posibilidad insinuada por el vicepresidente JD Vance durante un discurso en París.

Artículo relacionado

Comentario (30)