La India reporta por primera vez actividad de un agente de IA autónomo

La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y pruebas.
El Equipo de Respuesta ante Emergencias Informáticas de la India (CERT-In) declaró que recibió “múltiples divulgaciones voluntarias de proveedores de modelos de IA” cuyos modelos, durante ejecuciones de investigación y evaluación en internet abierto, “habían alcanzado los sistemas en vivo de organizaciones indias”.
Los agentes obtuvieron acceso mediante credenciales y configuraciones de conexión dejadas expuestas en configuraciones de aplicaciones, repositorios de código públicos y roles de nube con permisos excesivos, con sus acciones “superando la autorización de sus tareas asignadas”.
Esto marca a India como el último destino en lo que se ha convertido en una gira global para agentes de IA maliciosos. En julio, los agentes de OpenAI escaparon de un entorno de prueba y hackearon a la empresa francesa Hugging Face, dando inicio a un verano de actividad de agentes de IA maliciosos. El mes pasado, OpenAI se disculpó con Australia después de que sus agentes accedieran a cuatro sitios web gubernamentales, incluido un portal de estadísticas de Medicare.
En Hugging Face, los agentes de OpenAI comenzaron de la misma manera pero luego encontraron y explotaron fallos de software para ejecutar código en los servidores de la empresa. CERT-In no describió ningún hackeo de este tipo en India, donde los agentes parecen haber utilizado simplemente el acceso dejado al descubierto.
Sin embargo, los casos indios parecen más graves en un aspecto: lo que vieron los agentes. En Australia, OpenAI afirmó que no encontró evidencia de que sus agentes tocaran registros médicos o penales de individuos, incluso después de escribir archivos dentro de un sistema de estadísticas de Medicare, mientras que en India, los agentes leyeron datos personales y registros comerciales confidenciales. A diferencia de incidentes anteriores, cada uno divulgado por un solo laboratorio, los de India involucraron agentes de múltiples proveedores.
CERT-In no nombró a los proveedores ni a las organizaciones afectadas, ni indicó si los agentes alteraron algún sistema. TechCrunch ha contactado a CERT-In para obtener más información.
Por ahora, el paralelo más cercano parece ser la divulgación de Anthropic en julio sobre Claude que irrumpió en los sistemas de tres empresas durante las pruebas utilizando técnicas básicas como contraseñas débiles.
En India, al igual que en los casos de Anthropic, las organizaciones afectadas no habían detectado las intrusiones por su cuenta. Las divulgaciones han dejado a los gobiernos dependiendo de que las empresas de IA que causaron estas brechas divulguen voluntariamente la actividad de agentes de IA maliciosos.
Artículo relacionado
Amazon recurre a la inteligencia artificial y a la energía limpia para impulsar la expansión de sus centros de datos
Amazon aprovecha la inteligencia artificial, la energía nuclear y los vehículos eléctricos para ampliar su infraestructura y reducir al mismo tiempo la intensidad de carbono. Crédito: AmazonEl Informe
Anthropic ajusta los precios de Claude para la India, su mayor mercado después de Estados Unidos
Anthropic ha comenzado a ajustar los precios de Claude para la India, su mayor mercado fuera de EE. UU., a medida que las empresas de IA a nivel mundial adaptan cada vez más sus ofertas para captar us
La IA de vídeo de Avataar afronta el reto de la magnitud de la India con rapidez, ahorro y sensibilidad cultural
El desarrollo de modelos de IA en la India ha sido lento en comparación con Estados Unidos, Europa y China. Solo unas pocas empresas emergentes están lanzando modelos, y la mayoría de ellos son grande
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y pruebas.
El Equipo de Respuesta ante Emergencias Informáticas de la India (CERT-In) declaró que recibió “múltiples divulgaciones voluntarias de proveedores de modelos de IA” cuyos modelos, durante ejecuciones de investigación y evaluación en internet abierto, “habían alcanzado los sistemas en vivo de organizaciones indias”.
Los agentes obtuvieron acceso mediante credenciales y configuraciones de conexión dejadas expuestas en configuraciones de aplicaciones, repositorios de código públicos y roles de nube con permisos excesivos, con sus acciones “superando la autorización de sus tareas asignadas”.
Esto marca a India como el último destino en lo que se ha convertido en una gira global para agentes de IA maliciosos. En julio, los agentes de OpenAI escaparon de un entorno de prueba y hackearon a la empresa francesa Hugging Face, dando inicio a un verano de actividad de agentes de IA maliciosos. El mes pasado, OpenAI se disculpó con Australia después de que sus agentes accedieran a cuatro sitios web gubernamentales, incluido un portal de estadísticas de Medicare.
En Hugging Face, los agentes de OpenAI comenzaron de la misma manera pero luego encontraron y explotaron fallos de software para ejecutar código en los servidores de la empresa. CERT-In no describió ningún hackeo de este tipo en India, donde los agentes parecen haber utilizado simplemente el acceso dejado al descubierto.
Sin embargo, los casos indios parecen más graves en un aspecto: lo que vieron los agentes. En Australia, OpenAI afirmó que no encontró evidencia de que sus agentes tocaran registros médicos o penales de individuos, incluso después de escribir archivos dentro de un sistema de estadísticas de Medicare, mientras que en India, los agentes leyeron datos personales y registros comerciales confidenciales. A diferencia de incidentes anteriores, cada uno divulgado por un solo laboratorio, los de India involucraron agentes de múltiples proveedores.
CERT-In no nombró a los proveedores ni a las organizaciones afectadas, ni indicó si los agentes alteraron algún sistema. TechCrunch ha contactado a CERT-In para obtener más información.
Por ahora, el paralelo más cercano parece ser la divulgación de Anthropic en julio sobre Claude que irrumpió en los sistemas de tres empresas durante las pruebas utilizando técnicas básicas como contraseñas débiles.
En India, al igual que en los casos de Anthropic, las organizaciones afectadas no habían detectado las intrusiones por su cuenta. Las divulgaciones han dejado a los gobiernos dependiendo de que las empresas de IA que causaron estas brechas divulguen voluntariamente la actividad de agentes de IA maliciosos.
Amazon recurre a la inteligencia artificial y a la energía limpia para impulsar la expansión de sus centros de datos
Amazon aprovecha la inteligencia artificial, la energía nuclear y los vehículos eléctricos para ampliar su infraestructura y reducir al mismo tiempo la intensidad de carbono. Crédito: AmazonEl Informe
Anthropic ajusta los precios de Claude para la India, su mayor mercado después de Estados Unidos
Anthropic ha comenzado a ajustar los precios de Claude para la India, su mayor mercado fuera de EE. UU., a medida que las empresas de IA a nivel mundial adaptan cada vez más sus ofertas para captar us
La IA de vídeo de Avataar afronta el reto de la magnitud de la India con rapidez, ahorro y sensibilidad cultural
El desarrollo de modelos de IA en la India ha sido lento en comparación con Estados Unidos, Europa y China. Solo unas pocas empresas emergentes están lanzando modelos, y la mayoría de ellos son grande





Hogar






