OpenAI publica dos informes: los avances en IA superan a las medidas de seguridad

Mientras el público espera más detalles por parte de OpenAI sobre el incidente en el que unos agentes de IA se infiltraron de forma autónoma en la página web del programador alemán DseWiki, el 6 de septiembre, hora local, OpenAI publicó dos documentos: uno en el que anunciaba que la empresa había alcanzado el objetivo fijado el año pasado, al disponer de un «becario de investigación automatizado» capaz de completar tareas que a un investigador experto le llevarían varios días bajo supervisión humana; y otro, redactado por el científico jefe Jakub Pachocki, centrado en los dilemas de seguridad que plantea el desarrollo de vanguardia en IA.
El coste medio diario de razonamiento para los investigadores supera los 600 dólares
El «becario de investigación automatizado» al que se refiere OpenAI no es un científico totalmente autónomo, sino alguien capaz de completar tareas de investigación claramente definidas que, por lo general, llevarían varios días a un investigador experto, bajo la orientación humana. La empresa avanza hacia su objetivo de crear un «investigador de IA automatizado» para marzo de 2028.
Los datos muestran que, a mediados de agosto de este año, el coste medio diario de razonamiento generado por los investigadores que utilizan agentes de programación superaba los 600 dólares, y que el 10 % de los usuarios con mayor gasto destinaba más de 7 000 dólares al día a la compra de tokens. Las tareas que realizan los agentes se están ampliando, pasando de la escritura de código y la resolución de problemas de infraestructura a trabajos de investigación más complejos y a largo plazo. Sin embargo, OpenAI también reconoce que estas métricas se encuentran aún en una fase inicial y que el progreso general del trabajo de investigación no aumenta de forma proporcional. En las tareas que completaron con éxito entre 4 y 8 horas de carga de trabajo humano en los últimos seis meses, más de la mitad aún requirió al menos una intervención humana.
Pachocki: Ningún laboratorio ha logrado que la alineación y la supervisión sean lo suficientemente fiables
Paralelamente al crecimiento de las capacidades, se han endurecido los límites de seguridad. En julio, OpenAI reveló que su modelo se había infiltrado en sistemas relacionados con Hugging Face; en agosto, GPT-6 Astra alcanzó el umbral «crítico» de capacidad en ciberseguridad; y el incidente de DseWiki en septiembre demostró una vez más que los agentes no necesitan necesariamente recurrir al «hacking» tradicional para traspasar los límites preestablecidos por los desarrolladores. El denominador común de estos incidentes es que las acciones reales de los modelos han comenzado a sobrepasar los límites de comportamiento para los que fueron diseñados originalmente.
En su artículo, Pachocki escribió que ningún laboratorio ha logrado aún que la alineación y la supervisión de la IA sean lo suficientemente fiables como para escalar de forma responsable al ritmo más rápido durante un período prolongado en el futuro. Espera que los laboratorios ralenticen voluntariamente su desarrollo antes de que se establezcan normas de seguridad comunes, y pide a los gobiernos que den prioridad a la coordinación internacional.
Artículo relacionado
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
7 Sitios Web Esenciales que Debes ConocerHave I Been Pwned?Print Friendly12ft LadderThis Person Does Not ExistWayback MachineTerms of Service; Didn't ReadCamelCamelCamelEsta guía presenta siete sitios web altamente prácticos que podrían ser n
La IA de OpenAI resuelve 722 problemas matemáticos, lo que despierta inquietud entre los matemáticos humanos
La rápida evolución de la inteligencia artificial en el ámbito de las matemáticas está alterando de forma fundamental la percepción externa de esta disciplina. OpenAI ha publicado recientemente 722 ma
La IA acelera la detección de vulnerabilidades ante el aumento de los fallos de seguridad y las amenazas de los piratas informáticos
Bloomberg informó el 28 de julio de que la IA está acelerando considerablemente la detección de vulnerabilidades de software. Según las tendencias actuales, se prevé que en 2026 el número de vulnerabi
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Mientras el público espera más detalles por parte de OpenAI sobre el incidente en el que unos agentes de IA se infiltraron de forma autónoma en la página web del programador alemán DseWiki, el 6 de septiembre, hora local, OpenAI publicó dos documentos: uno en el que anunciaba que la empresa había alcanzado el objetivo fijado el año pasado, al disponer de un «becario de investigación automatizado» capaz de completar tareas que a un investigador experto le llevarían varios días bajo supervisión humana; y otro, redactado por el científico jefe Jakub Pachocki, centrado en los dilemas de seguridad que plantea el desarrollo de vanguardia en IA.
El coste medio diario de razonamiento para los investigadores supera los 600 dólares
El «becario de investigación automatizado» al que se refiere OpenAI no es un científico totalmente autónomo, sino alguien capaz de completar tareas de investigación claramente definidas que, por lo general, llevarían varios días a un investigador experto, bajo la orientación humana. La empresa avanza hacia su objetivo de crear un «investigador de IA automatizado» para marzo de 2028.
Los datos muestran que, a mediados de agosto de este año, el coste medio diario de razonamiento generado por los investigadores que utilizan agentes de programación superaba los 600 dólares, y que el 10 % de los usuarios con mayor gasto destinaba más de 7 000 dólares al día a la compra de tokens. Las tareas que realizan los agentes se están ampliando, pasando de la escritura de código y la resolución de problemas de infraestructura a trabajos de investigación más complejos y a largo plazo. Sin embargo, OpenAI también reconoce que estas métricas se encuentran aún en una fase inicial y que el progreso general del trabajo de investigación no aumenta de forma proporcional. En las tareas que completaron con éxito entre 4 y 8 horas de carga de trabajo humano en los últimos seis meses, más de la mitad aún requirió al menos una intervención humana.
Pachocki: Ningún laboratorio ha logrado que la alineación y la supervisión sean lo suficientemente fiables
Paralelamente al crecimiento de las capacidades, se han endurecido los límites de seguridad. En julio, OpenAI reveló que su modelo se había infiltrado en sistemas relacionados con Hugging Face; en agosto, GPT-6 Astra alcanzó el umbral «crítico» de capacidad en ciberseguridad; y el incidente de DseWiki en septiembre demostró una vez más que los agentes no necesitan necesariamente recurrir al «hacking» tradicional para traspasar los límites preestablecidos por los desarrolladores. El denominador común de estos incidentes es que las acciones reales de los modelos han comenzado a sobrepasar los límites de comportamiento para los que fueron diseñados originalmente.
En su artículo, Pachocki escribió que ningún laboratorio ha logrado aún que la alineación y la supervisión de la IA sean lo suficientemente fiables como para escalar de forma responsable al ritmo más rápido durante un período prolongado en el futuro. Espera que los laboratorios ralenticen voluntariamente su desarrollo antes de que se establezcan normas de seguridad comunes, y pide a los gobiernos que den prioridad a la coordinación internacional.
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
7 Sitios Web Esenciales que Debes ConocerHave I Been Pwned?Print Friendly12ft LadderThis Person Does Not ExistWayback MachineTerms of Service; Didn't ReadCamelCamelCamelEsta guía presenta siete sitios web altamente prácticos que podrían ser n
La IA de OpenAI resuelve 722 problemas matemáticos, lo que despierta inquietud entre los matemáticos humanos
La rápida evolución de la inteligencia artificial en el ámbito de las matemáticas está alterando de forma fundamental la percepción externa de esta disciplina. OpenAI ha publicado recientemente 722 ma
La IA acelera la detección de vulnerabilidades ante el aumento de los fallos de seguridad y las amenazas de los piratas informáticos
Bloomberg informó el 28 de julio de que la IA está acelerando considerablemente la detección de vulnerabilidades de software. Según las tendencias actuales, se prevé que en 2026 el número de vulnerabi





Hogar






