Hogar
ChatGPT lanza un modo de bloqueo de emergencia para evitar el robo de datos sin necesidad de desconectar la red
Para ayudar a prevenir el robo malintencionado de datos confidenciales, OpenAI ha introducido una nueva función de seguridad opcional denominada «Modo de incidente» para todos los usuarios que hayan iniciado sesión. Esta configuración se aplica a los distintos tipos de cuentas y espacios de trabajo, y tanto los usuarios como los administradores pueden optar por activarla. Una vez activado, ChatGPT restringirá sus capacidades de búsqueda web en tiempo real, investigación en profundidad y funciones de agente. El objetivo es crear una barrera de seguridad contra los ataques de inyección de comandos, limitando la capacidad del modelo para realizar solicitudes a redes externas.

Limitación del acceso a la web para evitar fugas de datos
En el «Modo de incidente», la navegación web en tiempo real de ChatGPT se limita estrictamente al contenido almacenado en caché, lo que puede dar lugar a resultados de búsqueda incompletos u obsoletos. Además, el modelo no puede descargar archivos de Internet para el análisis de datos, y el código generado por Canvas tampoco puede realizar solicitudes de red externas. Sin embargo, las funciones locales, como las imágenes subidas por los usuarios, las imágenes generadas con herramientas y el historial de conversaciones, no se ven afectadas por este modo.
Devolver las decisiones de seguridad a los usuarios
Un ataque de inyección de comandos se produce cuando los atacantes incrustan instrucciones maliciosas en páginas web o documentos, engañando a la IA para que ignore sus reglas existentes y envíe información confidencial de los usuarios a servidores externos. OpenAI reconoce que el «Modo de incidente» no puede eliminar por completo este tipo de ataques, ya que el código malicioso podría seguir oculto en páginas web almacenadas en caché o en archivos subidos por los usuarios. Ante la realidad de que unas capacidades de IA más potentes también amplían la superficie de ataque, OpenAI opta por dejar en manos de los propios usuarios la decisión entre «una funcionalidad más sólida» y «un menor riesgo de fuga de datos».
Artículo relacionado
Neptune Medical obtiene la autorización de la FDA para el sistema robótico Triton 1
Triton es un sistema de endoscopia robótica gastrointestinal diseñado para ofrecer una navegación intuitiva, precisión y control en todo el colon. | Fuente: Neptune MedicalNeptune Medical Inc. ha anun
ARIA excluye de las listas de éxitos las canciones creadas íntegramente por IA, aunque permite las canciones creadas por personas y aquellas en las que ha intervenido la IA.
La Asociación Australiana de la Industria Discográfica (ARIA) ha prohibido por completo las canciones generadas íntegramente por IA en sus listas oficiales, y la nueva política entrará en vigor el pró
La India reporta por primera vez actividad de un agente de IA autónomo
La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y prueb
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Para ayudar a prevenir el robo malintencionado de datos confidenciales, OpenAI ha introducido una nueva función de seguridad opcional denominada «Modo de incidente» para todos los usuarios que hayan iniciado sesión. Esta configuración se aplica a los distintos tipos de cuentas y espacios de trabajo, y tanto los usuarios como los administradores pueden optar por activarla. Una vez activado, ChatGPT restringirá sus capacidades de búsqueda web en tiempo real, investigación en profundidad y funciones de agente. El objetivo es crear una barrera de seguridad contra los ataques de inyección de comandos, limitando la capacidad del modelo para realizar solicitudes a redes externas.

Limitación del acceso a la web para evitar fugas de datos
En el «Modo de incidente», la navegación web en tiempo real de ChatGPT se limita estrictamente al contenido almacenado en caché, lo que puede dar lugar a resultados de búsqueda incompletos u obsoletos. Además, el modelo no puede descargar archivos de Internet para el análisis de datos, y el código generado por Canvas tampoco puede realizar solicitudes de red externas. Sin embargo, las funciones locales, como las imágenes subidas por los usuarios, las imágenes generadas con herramientas y el historial de conversaciones, no se ven afectadas por este modo.
Devolver las decisiones de seguridad a los usuarios
Un ataque de inyección de comandos se produce cuando los atacantes incrustan instrucciones maliciosas en páginas web o documentos, engañando a la IA para que ignore sus reglas existentes y envíe información confidencial de los usuarios a servidores externos. OpenAI reconoce que el «Modo de incidente» no puede eliminar por completo este tipo de ataques, ya que el código malicioso podría seguir oculto en páginas web almacenadas en caché o en archivos subidos por los usuarios. Ante la realidad de que unas capacidades de IA más potentes también amplían la superficie de ataque, OpenAI opta por dejar en manos de los propios usuarios la decisión entre «una funcionalidad más sólida» y «un menor riesgo de fuga de datos».
Neptune Medical obtiene la autorización de la FDA para el sistema robótico Triton 1
Triton es un sistema de endoscopia robótica gastrointestinal diseñado para ofrecer una navegación intuitiva, precisión y control en todo el colon. | Fuente: Neptune MedicalNeptune Medical Inc. ha anun
ARIA excluye de las listas de éxitos las canciones creadas íntegramente por IA, aunque permite las canciones creadas por personas y aquellas en las que ha intervenido la IA.
La Asociación Australiana de la Industria Discográfica (ARIA) ha prohibido por completo las canciones generadas íntegramente por IA en sus listas oficiales, y la nueva política entrará en vigor el pró
La India reporta por primera vez actividad de un agente de IA autónomo
La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y prueb











