El director general de DeepMind insta a que se realicen pruebas de modelos de IA bajo la dirección de EE. UU.

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind. Crédito: Demis Hassabis/LinkedIn

El director ejecutivo de Google DeepMind, Demis Hassabis, destaca los peligros de la inteligencia artificial general y aboga por un marco regulador liderado por EE. UU.

El director ejecutivo de Google DeepMind, Demis Hassabis, ha propuesto la creación de un organismo regulador liderado por EE. UU. para evaluar los modelos de IA de vanguardia. Ha hecho hincapié en la urgente necesidad de mitigar los riesgos, incluidos los relacionados con amenazas nucleares y biológicas, a medida que la humanidad se acerca a la inteligencia artificial general (AGI).

Demis Hassabis es premio Nobel y cofundador de Google DeepMind. Compartió el Premio Nobel de Química con su colega John Jumper, quien recientemente anunció su incorporación a Anthropic. Demis es doctor en Neurociencia Cognitiva por el University College de Londres.

Aunque lanzó serias advertencias sobre las amenazas de la IA, se mostró optimista respecto a su potencial: «Podríamos incluso llegar a un punto en el que los recursos ya no sean el factor limitante para el progreso humano, lo que daría lugar a una nueva y asombrosa era de abundancia», afirmó, argumentando que la IA ayudará a resolver algunos de los retos más acuciantes de la humanidad.

Principales preocupaciones respecto a la IA general

Demis señaló que las principales empresas de IA se encuentran actualmente inmersas en una intensa carrera comercial y geopolítica con múltiples facetas. En esta competencia participa su propia empresa, Google DeepMind, junto a rivales como OpenAI, Anthropic y DeepSeek.

«Ya hemos visto los retos que plantean los modelos de vanguardia para la ciberseguridad, y es posible que pronto surjan otras amenazas, incluidos los riesgos nucleares y biológicos, a medida que las capacidades sigan avanzando», escribió Demis en su blog de Substack.

Demis añadió: «Debemos aprovechar esta valiosa oportunidad antes de que llegue la IA general para dar forma a esta tecnología en beneficio de toda la humanidad».

También destacó los riesgos potenciales procedentes de ámbitos que actualmente se desconocen: «En el futuro, necesitaremos salvaguardias sólidas para mantener el control de sistemas cada vez más autónomos y que se mejoran a sí mismos de forma recursiva, así como para abordar problemas desconocidos que solo se irán aclarando con el tiempo».

Esta advertencia se produce tras una reciente directiva del Gobierno de EE. UU., que, alegando motivos de seguridad nacional, suspendía todo acceso extranjero a los modelos Fable 5 y Mythos 5 de Anthropic, una restricción que, según se informa, ya se ha levantado.

Ilustración artística de la IA. Esta imagen explora cómo se puede utilizar la IA para avanzar en el campo de la computación cuántica. Crédito: Google DeepMind/Unsplash

Las opiniones de Demis sobre la IGA cuentan con el respaldo de otros expertos y grupos de reflexión. El Centro de Relaciones Internacionales y Desarrollo Sostenible advirtió en un artículo titulado «Por qué la IGA debería ser la máxima prioridad mundial» que, sin una regulación nacional e internacional, la humanidad corre el riesgo de perder el control de una inteligencia no biológica que escapa a la comprensión, la conciencia y el control humanos.

Cabe destacar que el Boletín de los Científicos Atómicos, que en enero de 2026 fijó el Reloj del Juicio Final en 85 segundos para la medianoche —lo más cerca que ha estado jamás en su historia—, también pidió que se tomaran medidas urgentes para establecer directrices internacionales sobre el uso de la IA.

Demis Hassabis, director ejecutivo y cofundador de Google DeepMind (izquierda), junto a John Jumper, exvicepresidente de Google DeepMind (derecha) | Crédito: Jon Kopaloff / Getty Images

«Debemos aprovechar esta valiosa oportunidad antes de que llegue la IA general (AGI) para dar forma a esta tecnología en beneficio de toda la humanidad». Demis Hassabis, cofundador y director ejecutivo de Google DeepMind

Propuesta de regulación liderada por EE. UU.

Demis argumentó que Estados Unidos, dada su posición económica y técnica, está bien situado para dar el primer paso en el desarrollo de un marco que emplee un enfoque dinámico, adaptable y riguroso para poner a prueba los modelos de vanguardia.

La propuesta de Demis es detallada y específica. «Podría crearse un nuevo organismo de normalización inspirado en una asociación público-privada supervisada a nivel federal o en una organización autorreguladora, muy similar a la Autoridad Reguladora de la Industria Financiera (FINRA).

«El organismo de normalización se encargaría de desarrollar protocolos de evaluación y de colaborar con los organismos federales pertinentes y los laboratorios nacionales de EE. UU. para llevar a cabo pruebas en ámbitos relevantes para la seguridad nacional».

«Inicialmente, los «Frontier Labs» compartirían voluntariamente sus modelos con el organismo de normalización para su revisión hasta 30 días antes de su lanzamiento. Una vez que se demuestre que el protocolo de evaluación es eficaz y sólido, podría producirse rápidamente su formalización, lo que significaría que los modelos de vanguardia tendrían que superarlo para poder implementarse en el mercado estadounidense».

Demis añadió que esta iniciativa impulsada por EE. UU. sentaría unas bases sólidas para la creación de normas internacionales compartidas sobre la IA de vanguardia.

Nik Kairinos, director ejecutivo y cofundador de RAIDS AI, comentó sobre esta novedad: «Pero un organismo de control mundial de la IA no puede estar guiado por la agenda de una sola nación».

Nik Kairinos, director ejecutivo y cofundador de RAIDS AI. Crédito: Nik Kairinos/LinkedIn

«La IA no respeta las fronteras, y tampoco deberían hacerlo las normas diseñadas para regularla. Es esencial un enfoque multinacional para garantizar que cualquier normativa sobre IA logre la confianza, la cooperación y la aceptación necesarias para funcionar a nivel internacional».

Riesgos recientes derivados de los modelos de vanguardia

La advertencia de Demis se produce tras la publicación por parte de Anthropic de un informe, titulado «Agentic Misalignment in Summer 2026» (Desalineación agencial en el verano de 2026), en el que se detallan observaciones sobre fallos de alineación de los modelos en simulaciones de alto riesgo. El informe utilizó modelos de vanguardia de Google DeepMind, OpenAI, la empresa china de IA DeepSeek y los propios modelos de Anthropic.

Entre los problemas de desalineación enumerados se incluyen modelos que persiguen sus propias motivaciones más allá de las instrucciones del usuario y lo que Anthropic denomina «cumplimiento perjudicial», en el que se sigue la solicitud del usuario, pero ello da lugar a un perjuicio.

Entre los problemas citados por Anthropic se encuentra el sabotaje encubierto, un fallo de desalineación agencial en el que los modelos interfieren en secreto en el código para socavar la intención del usuario. Anthropic también descubrió que algunos modelos ayudarían a los usuarios en actividades similares a los delitos de cuello blanco.

Otros riesgos derivados de los modelos de vanguardia recientes que se citan incluyen el «entrenamiento» de representantes humanos para que denuncien irregularidades, en el que los modelos filtran información confidencial sobre seguridad al exterior o incitan a las personas a hacerlo, así como el etiquetado erróneo intencionado.

Anthropic afirmó en su informe publicado en el blog Alignment Science Blog que el objetivo de estos estudios de caso es ayudar a los desarrolladores y evaluadores a evaluar fallos similares y a crear medidas de protección específicas.