OpenAI refuerza la seguridad de ChatGPT frente a la inyección de comandos
OpenAI ha introducido dos nuevas funciones de seguridad avanzadas para ChatGPT con el fin de combatir la creciente amenaza de los ataques de inyección de comandos, que se producen cuando los sistemas de IA interactúan con sitios web y aplicaciones externas. Estos ataques pueden permitir que actores maliciosos manipulen la IA para que realice acciones perjudiciales o revele datos confidenciales. Ambas funciones nuevas refuerzan las defensas existentes de la plataforma, entre las que se incluyen su entorno de pruebas, la prevención de fugas de datos en URL y otros protocolos de seguridad multicapa.

La primera función es el Modo de bloqueo, una configuración opcional y avanzada diseñada para usuarios con requisitos de seguridad estrictos, más que para el usuario medio. Reduce significativamente el riesgo de fugas de datos al imponer controles estrictos sobre cómo se comunica ChatGPT con sistemas externos. Este modo desactiva o restringe de forma proactiva las herramientas que son vectores de ataque potenciales. Por ejemplo, la función de navegación web solo accederá a contenido almacenado en caché, y las funcionalidades que no cuenten con garantías de seguridad sólidas se desactivarán por completo.
Actualmente, este modo está disponible para las ediciones ChatGPT Enterprise, Education, Healthcare y Teacher. Los administradores pueden habilitarlo creando roles específicos en la configuración del panel de control, donde también pueden definir con precisión qué aplicaciones externas y acciones están permitidas mientras el Modo de bloqueo está activo. OpenAI tiene previsto poner este modo a disposición de los usuarios particulares en los próximos meses. Además, la Plataforma de registros de la API de cumplimiento normativo ayuda a los administradores a realizar auditorías normativas sobre el uso de las aplicaciones y las prácticas de intercambio de datos.
La segunda medida consiste en etiquetar de forma sistemática las funciones de mayor riesgo dentro de ChatGPT, ChatGPT Atlas y Codex con una etiqueta de **«Riesgo elevado»**, estandarizando así la forma en que se comunican las posibles amenazas a los usuarios.
OpenAI explicó que ciertas capacidades conectadas a Internet, aunque aumentan la utilidad de la IA, siguen presentando riesgos que no están totalmente mitigados por las medidas de seguridad actuales del sector. Esta etiqueta proporciona una visibilidad clara de estos riesgos, lo que permite a los usuarios tomar decisiones informadas sobre si utilizar las funciones, especialmente en situaciones que implican información sensible. Por ejemplo, cuando los desarrolladores habiliten el acceso a Internet para Codex, la etiqueta aparecerá en la interfaz, detallando los cambios que conlleva, los peligros potenciales, los casos de uso apropiados y las recomendaciones para reducir el riesgo.
Artículo relacionado
Las gafas inteligentes de Apple podrían debutar en la WWDC27, destacando la protección de la privacidad
El informe de Mark Gurman de Bloomberg indica que las gafas inteligentes de Apple, con el nombre en código N50, están previstas para su presentación en la WWDC27 de junio de 2027, con un lanzamiento al público previsto para el otoño de 2027. Original
Dentro de los detalles revelados sobre el Gemini de próxima generación: Potencia de cálculo limitada, los equipos internos discreparon sobre las prioridades de desarrollo y la asignación de recursos
Los informes indican que el lanzamiento del tan esperado modelo Gemini de próxima generación de Google ha sido pospuesto. Los desacuerdos internos sobre las prioridades de desarrollo y la asignación de recursos, combinados con una capacidad de comput
OpenAI descarta preocupaciones por la desaceleración del crecimiento y afirma que múltiples unidades de negocio están acelerando
En respuesta a la escrutinio externo sobre el desaceleramiento del crecimiento de las ventas y el incumplimiento de las metas internas, el líder en inteligencia artificial, OpenAI, emitió una declaración contundente el martes 28 de abril. La empresa
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
OpenAI ha introducido dos nuevas funciones de seguridad avanzadas para ChatGPT con el fin de combatir la creciente amenaza de los ataques de inyección de comandos, que se producen cuando los sistemas de IA interactúan con sitios web y aplicaciones externas. Estos ataques pueden permitir que actores maliciosos manipulen la IA para que realice acciones perjudiciales o revele datos confidenciales. Ambas funciones nuevas refuerzan las defensas existentes de la plataforma, entre las que se incluyen su entorno de pruebas, la prevención de fugas de datos en URL y otros protocolos de seguridad multicapa.

La primera función es el Modo de bloqueo, una configuración opcional y avanzada diseñada para usuarios con requisitos de seguridad estrictos, más que para el usuario medio. Reduce significativamente el riesgo de fugas de datos al imponer controles estrictos sobre cómo se comunica ChatGPT con sistemas externos. Este modo desactiva o restringe de forma proactiva las herramientas que son vectores de ataque potenciales. Por ejemplo, la función de navegación web solo accederá a contenido almacenado en caché, y las funcionalidades que no cuenten con garantías de seguridad sólidas se desactivarán por completo.
Actualmente, este modo está disponible para las ediciones ChatGPT Enterprise, Education, Healthcare y Teacher. Los administradores pueden habilitarlo creando roles específicos en la configuración del panel de control, donde también pueden definir con precisión qué aplicaciones externas y acciones están permitidas mientras el Modo de bloqueo está activo. OpenAI tiene previsto poner este modo a disposición de los usuarios particulares en los próximos meses. Además, la Plataforma de registros de la API de cumplimiento normativo ayuda a los administradores a realizar auditorías normativas sobre el uso de las aplicaciones y las prácticas de intercambio de datos.
La segunda medida consiste en etiquetar de forma sistemática las funciones de mayor riesgo dentro de ChatGPT, ChatGPT Atlas y Codex con una etiqueta de **«Riesgo elevado»**, estandarizando así la forma en que se comunican las posibles amenazas a los usuarios.
OpenAI explicó que ciertas capacidades conectadas a Internet, aunque aumentan la utilidad de la IA, siguen presentando riesgos que no están totalmente mitigados por las medidas de seguridad actuales del sector. Esta etiqueta proporciona una visibilidad clara de estos riesgos, lo que permite a los usuarios tomar decisiones informadas sobre si utilizar las funciones, especialmente en situaciones que implican información sensible. Por ejemplo, cuando los desarrolladores habiliten el acceso a Internet para Codex, la etiqueta aparecerá en la interfaz, detallando los cambios que conlleva, los peligros potenciales, los casos de uso apropiados y las recomendaciones para reducir el riesgo.
Las gafas inteligentes de Apple podrían debutar en la WWDC27, destacando la protección de la privacidad
El informe de Mark Gurman de Bloomberg indica que las gafas inteligentes de Apple, con el nombre en código N50, están previstas para su presentación en la WWDC27 de junio de 2027, con un lanzamiento al público previsto para el otoño de 2027. Original
Dentro de los detalles revelados sobre el Gemini de próxima generación: Potencia de cálculo limitada, los equipos internos discreparon sobre las prioridades de desarrollo y la asignación de recursos
Los informes indican que el lanzamiento del tan esperado modelo Gemini de próxima generación de Google ha sido pospuesto. Los desacuerdos internos sobre las prioridades de desarrollo y la asignación de recursos, combinados con una capacidad de comput
OpenAI descarta preocupaciones por la desaceleración del crecimiento y afirma que múltiples unidades de negocio están acelerando
En respuesta a la escrutinio externo sobre el desaceleramiento del crecimiento de las ventas y el incumplimiento de las metas internas, el líder en inteligencia artificial, OpenAI, emitió una declaración contundente el martes 28 de abril. La empresa





Hogar






