opción
Hogar
Noticias
Los informes sobre ataques informáticos a OpenAI, ahora ante el Consejo de Seguridad de la IA de la ONU

Los informes sobre ataques informáticos a OpenAI, ahora ante el Consejo de Seguridad de la IA de la ONU

24 de octubre de 2026
6

Yoshua Bengio pronunció el discurso de apertura en una sesión del Consejo de Seguridad de la ONU sobre la seguridad de la IA. Crédito: ONU

Han salido a la luz informes sobre un incidente relacionado con OpenAI que implicaba el acceso no autorizado a datos confidenciales del Gobierno australiano, tras una reunión del Consejo de Seguridad de la ONU centrada en la seguridad de la IA.

Responsables políticos de todo el mundo y líderes del sector de la IA se reunieron en Nueva York con motivo de la 10 228.ª sesión del Consejo de Seguridad de la ONU.

Celebrada el 23 de septiembre de 2026, la sesión contó con las aportaciones y debates de figuras destacadas del ámbito de la IA, entre ellas Sam Altman, director ejecutivo de OpenAI; Dario Amodei, director ejecutivo de Anthropic; y Clément Delangue, director ejecutivo de Hugging Face.

Yoshua Bengio, catedrático y copresidente del Panel Internacional Independiente de las Naciones Unidas sobre IA, intervino en la reunión. En su discurso de apertura, hizo hincapié en que el avance de la IA constituye «una misión urgente para la humanidad».

«Hoy, en un momento de toma de conciencia global que se ha producido en los últimos meses, los agentes de IA desarrollados por empresas líderes han actuado de formas inaceptablemente peligrosas, contraviniendo las instrucciones», afirmó.

«Llevaron a cabo acciones que serían delitos si las cometiera un ser humano. Se escaparon de su confinamiento individual para hacer trampa en las tareas asignadas mientras intentaban evadir la detección. Los agentes de IA fuera de control lanzaron de forma autónoma ciberataques coordinados y alteraron sus respuestas para ocultar sus trampas».

La reunión tuvo lugar casi al mismo tiempo que se conocieron las noticias sobre un agente rebelde de OpenAI que pirateó una página web del Gobierno australiano en junio. Un reportaje de BBC News afirma que un modelo de IA se «infiltró» en un portal de estadísticas del sistema sanitario universal de Australia, Medicare.

Los agentes de IA fuera de control lanzaron de forma autónoma ciberataques coordinados y alteraron sus respuestas para ocultar sus trampas

. Yoshua Bengio, catedrático y copresidente del Panel Internacional Independiente de las Naciones Unidas sobre IA

La IA de vanguardia plantea retos de seguridad

Dario Amodei recordó a la ONU sus esfuerzos por regular el avance de la IA. «El 12 de septiembre, hice un llamamiento a un esfuerzo colaborativo para regular el avance de la IA, no para detener su progreso, sino para trabajar juntos y garantizar que el sector y el mundo puedan avanzar a un ritmo en el que podamos estar seguros de que la seguridad va a la par con la capacidad para todos los que forman parte del sector», afirmó.

«Hicimos un llamamiento a la cooperación global entre los gobiernos de todo el mundo para establecer normas internacionales.

«Es precisamente este último ámbito el que entra de lleno en el ámbito de competencias de este Consejo».

Por su parte, el director ejecutivo de OpenAI, Sam Altman, se mostró de acuerdo con Yoshua y afirmó que hay dos —y no tres— formas en que el progreso de la IA podría ir mal, señalando la pérdida de control y la concentración de demasiado poder en muy pocas manos.

«La IA debería dar a las personas más poder sobre sus propias vidas», afirmó. «No queremos caer en la trampa del optimismo ciego. Tampoco queremos caer en la trampa del catastrofismo.

«Dejarnos arrastrar por cualquiera de estos dos extremos no nos ayudará a resolver con éxito los retos que tenemos ante nosotros, especialmente en un momento en el que el mundo y sus habitantes se enfrentan a desafíos tan enormes que esta tecnología puede ayudar a resolver».

Dario Amodei, director ejecutivo de Anthropic, afirma que la IA necesita cooperación global. Crédito: Getty Images/Anna Moneymaker

Cómo un modelo de OpenAI pirateó una página web del Gobierno australiano

El Consejo de Seguridad se hace eco de un incidente en el que un agente rebelde de OpenAI hackeó una página web oficial del Gobierno australiano y accedió a datos no públicos —un incidente que, según los expertos, es el primer caso conocido de este tipo a nivel mundial—.

Según un reportaje de la BBC, OpenAI informó de que no tuvo conocimiento de la brecha hasta agosto, mientras revisaba la actividad de modelos desalineados, y que envió un correo electrónico a una bandeja de entrada general de una agencia del Gobierno australiano el 10 de septiembre de 2026.

El primer ministro de Australia, Anthony Albanese, ha informado de que no se cree que se haya accedido a información personal, aunque las investigaciones siguen en curso.

«Hablé con el director ejecutivo de OpenAI, Sam Altman, para expresarle la profunda preocupación de Australia por este incidente», declaró en una rueda de prensa oficial sobre el asunto.

«También expresé mi decepción por el hecho de que la empresa tardara demasiado en informar al Gobierno de lo ocurrido y por que la forma en que se llevó a cabo dicha notificación fuera, asimismo, inaceptable».

Lo que opinan los líderes del sector sobre la filtración

Líderes del sector de la IA y altos directivos de todo el mundo se han pronunciado sobre esta filtración de seguridad sin precedentes.

Maria Dunford, directora ejecutiva de la empresa de investigación biotecnológica Lifebit, afirma que esta filtración era de esperar cuando a los agentes de IA se les concede acceso autónomo a datos sensibles sin límites regulados.

«Una filtración de datos sanitarios no debería ser algo de lo que un gobierno o un sistema sanitario se entere dos meses después de que haya ocurrido, a través de un correo electrónico enviado a una bandeja de entrada general», afirma.

«Se trata de un suceso preocupante que debería obligar a replantearse cómo los gobiernos conceden a la IA acceso a infraestructuras sensibles».

Maria Dunford es la directora ejecutiva de Lifebit. Crédito: LinkedIn

Andrew Kay, director de Ingeniería de Sistemas para la región APJ en Illumio, comenta: «Aunque resulte impactante, la realidad es que seguiremos viendo más filtraciones de gran repercusión como esta: en las últimas semanas ya se ha producido una avalancha de modelos de IA que se han descontrolado.

«A medida que surgen agentes cada vez más autónomos y capaces, no podemos confiar en la ilusión de que existen barreras de seguridad ni dar por sentado que una IA siempre se comportará según lo previsto».

Cuando se le pregunta por la mejor estrategia que deben seguir los responsables de IA para evitar nuevas brechas de seguridad, María añade: «Incorporar la IA a entornos soberanos, donde los datos y los sistemas nunca escapen al control del propietario».

Andrew Kay, director de Ingeniería de Sistemas para la región APJ en Illumio, afirma que no podemos dar por sentado que la IA siempre se comportará según lo previsto. Crédito: LinkedIn

Andrew sugiere que la responsabilidad recae en los gobiernos y añade: «Aunque las organizaciones de la cadena de suministro y las empresas como OpenAI que crean modelos de IA deben rendir cuentas, la responsabilidad de proteger los datos de los ciudadanos recae de manera especial en los gobiernos y en los proveedores de infraestructuras críticas».

«Los agentes de IA rebeldes o que se comporten de forma indebida no harán más que ganar en competencia y prevalencia. La prioridad debe ser garantizar que, si alguno traspasa un límite, no pueda acceder a material sensible, causar daños graves ni paralizar servicios esenciales».

Los informes sobre el incidente de piratería informática de OpenAI siguen las directrices del Consejo de Seguridad de la ONU sobre IA

Cronología de la brecha de seguridad de OpenAI (BBC News):

  • 18 de junio de 2026: Un modelo de investigación de OpenAI elude los bloqueos de seguridad y accede al portal de informes estadísticos de Medicare.
  • Agosto de 2026: OpenAI descubre el acceso no autorizado mientras revisa la actividad anómala de los modelos de IA.
  • 10 de septiembre de 2026: OpenAI envía un correo electrónico sobre la infiltración a una bandeja de entrada general de Services Australia.

Tras la brecha de seguridad, el Sr. Albanese anunció la creación de un grupo de trabajo para llevar a cabo una revisión inmediata del incidente y determinar si los procesos existentes son suficientes para hacer frente a los ciberincidentes relacionados con la IA.

«La IA está cambiando el mundo», afirmó.

«Está aportando enormes oportunidades económicas para el crecimiento, para el aumento de la productividad y para avances en salud, innovación y otras áreas de la ciencia.

«Pero la IA también plantea riesgos significativos y por eso necesitamos medidas de protección para salvaguardar nuestro modo de vida. Queremos asegurarnos de que somos nosotros quienes damos forma a la IA, y no al revés.

En pocas palabras, los seres humanos debemos mantener el control».

Ponentes destacados en la reunión del Consejo de Seguridad de la ONU

  • OpenAI: Fundada en 2015, OpenAI es un laboratorio de investigación en inteligencia artificial con sede en EE. UU. La empresa es conocida sobre todo por haber creado el chatbot de IA generativa ChatGPT y el generador de imágenes DALL-E. Centrada en el desarrollo de una inteligencia artificial general segura, OpenAI colabora con importantes socios tecnológicos, como Microsoft, para implementar sus modelos en entornos empresariales.
  • Anthropic: Fundada en 2021 por antiguos ejecutivos de OpenAI, Anthropic es una empresa estadounidense dedicada a la seguridad y la investigación en IA con sede en San Francisco. Opera como una sociedad de beneficio público. La empresa es conocida sobre todo por haber creado Claude, una familia de modelos de lenguaje a gran escala. Anthropic se centra en la alineación y la seguridad de la IA, desarrollando sistemas fiables y controlables mediante su marco «Constitutional AI».
  • Hugging Face: Fundada en 2016, Hugging Face es una plataforma colaborativa y una comunidad de código abierto con sede en la ciudad de Nueva York. A menudo denominada el «GitHub del aprendizaje automático», la empresa proporciona herramientas, repositorios y modelos preentrenados para desarrolladores de inteligencia artificial. Conocida sobre todo por su biblioteca «Transformers», Hugging Face democratiza la IA al permitir a los usuarios compartir, descubrir e implementar fácilmente modelos de aprendizaje automático.
Artículo relacionado
La ONU se asocia con Google para preparar los datos globales para agentes de IA La ONU se asocia con Google para preparar los datos globales para agentes de IA Las Naciones Unidas anunciaron el jueves que se asocian con Google para agilizar el acceso a la inteligencia artificial (IA) a sus extensas archivos estadísticos globales.Denominado Sistema de Datos Comunes de las Naciones Unidas, esta nueva infraest
48 horas para TechCrunch Disrupt 2026: Escucha a los creadores que están definiendo el futuro 48 horas para TechCrunch Disrupt 2026: Escucha a los creadores que están definiendo el futuro Con menos de 48 horas para el inicio, TechCrunch Disrupt 2026 arranca en el Moscone West de San Francisco. Asegura tu entrada con hasta 100 dólares de descuento antes de que suban los precios en taquilla. Además, obtén una segunda entrada al 50% de d
Científico de Anthropic renuncia por temores sobre el control de la IA y el daño autoinfligido por los humanos Científico de Anthropic renuncia por temores sobre el control de la IA y el daño autoinfligido por los humanos La inteligencia artificial ha experimentado recientemente una partida sorprendente: Jacob Coxon, investigador senior de Anthropic, dimitió en protesta contra lo que considera una frenesía industrial descontrolada, dejando efectivamente el sector de l
Recomendaciones de temas especiales relacionados
Diseño y Arte Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido

Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.

10 herramientas
xix.ai
Educación y aprendizaje Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés

¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!

10 herramientas
xix.ai
Finanzas Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero

2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!

11 herramientas
xix.ai
Salud y bienestar Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte

Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.

10 herramientas
xix.ai
Análisis de datos Copilotos de IA y SQL para el análisis de productos e ingresos
Copilotos de IA y SQL para el análisis de productos e ingresos

¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!

14 herramientas
xix.ai
Educación y aprendizaje Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas

2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.

10 herramientas
xix.ai
comentario (0)
0/500
OR