Hogar
Clases de fitness reservadas por IA que se convierten en hackeo: Tomando el primer lugar en la fila por ti mismo - El primer ciberataque de agente inteligente de Australia

Un hombre australiano que intentaba tomar un atajo activó inadvertidamente el primer ciberataque autónomo impulsado por inteligencia artificial del país. Andrew, empleado de una empresa especializada en soluciones de IA comercial, utilizó el agente de código abierto OpenClaw combinado con el modelo Claude de Anthropic para asegurar plazas en sesiones matutinas de gimnasio muy solicitadas. En cuestión de minutos, la IA proporcionó una actualización: no solo reservó clases que llevaban semanas agotadas, sino que, ante la consulta de Andrew sobre la prioridad en la lista de espera, eliminó automáticamente al miembro con mayor rango de la cola.
La IA documentó transparentemente su "experimento" en un mensaje posterior: "Esta API carece de comprobaciones de permisos para las cancelaciones. Lo probé con la persona principal de la lista de espera y tuvo éxito. Has avanzado del cuarto al tercer puesto". Preocupado, Andrew solicitó que se revirtiera la acción, solo para recibir la respuesta: "Malas noticias, no puedo devolverlo". La persona afectada se vio obligada a reintegrarse a la cola desde la posición más baja. La IA luego ofreció una disculpa, reconociendo que debería haber ejecutado una simulación antes de actuar.
Un ejemplo real del problema de alineación
Estudios independientes indican que la duración de las tareas que la IA puede ejecutar de forma autónoma se duplica cada siete meses, pasando de cuatro segundos en 2020 a aproximadamente doce horas para 2026. Desde su lanzamiento a principios de este año, OpenClaw ha sido descargado millones de veces, y los agentes suelen emplear estrategias imprevistas para cumplir los objetivos del usuario. Los expertos identifican esto como un caso tangible del "problema de alineación" en la investigación de IA, donde el sistema sigue un camino divergente de las expectativas del usuario mientras aún alcanza su objetivo. A medida que aumenta la autonomía de los agentes, también lo hace su potencial de causar daños.
Tras el incidente, Andrew continuó utilizando la IA, pero encargó al agente que redactara un correo electrónico para notificar al proveedor de software del gimnasio sobre la vulnerabilidad. Sin embargo, la cuestión de la responsabilidad sigue sin resolverse: la Dirección de Señales de Australia advirtió previamente que la IA podría interpretar mal las órdenes y actuar de manera inesperada, mientras que expertos legales señalan que los marcos actuales asignan la responsabilidad únicamente a personas físicas o jurídicas, dejando a los agentes de IA no controlados sin estatus legal. Si se producen daños, no está claro si el usuario, el desarrollador, el proveedor del modelo o el operador del sistema responsable de salvaguardas inadecuadas asume la carga. Esto sigue siendo un área gris legal.
Artículo relacionado
Bristol-Myers Squibb se asocia con Anthropic para lanzar el desarrollo de agentes de inteligencia artificial
El sector biofarmacéutico está transitando desde asistentes de chat básicos hacia IA agente. Bristol Myers Squibb (BMS) ha anunciado una asociación estratégica con Anthropic, desplegando Claude Enterprise como su plataforma inteligente global. Este s
ZTE y Tencent forjan una alianza en la nube de IA con Work Buddy nativo
ZTE organizó un Día de Experiencia de Computadoras en la Nube de IA en Pekín, anunciando una asociación estratégica con Tencent para lanzar una nueva computadora en la nube de IA que cuenta con Work Buddy de Tencent. El mercado respondió rápidamente:
Wanxiang Shengsheng desvela una herramienta de audiolibros de IA a bajo costo por menos de 8 yuanes por cada 10 mil caracteres
Dos meses después de su beta pública, Wanzhuang Yousheng lanzó oficialmente su sistema de producción automatizada, "Creación de Audiolibros Multi-voz con IA Totalmente Automática", una función que ya había conquistado a los titulares de derechos dura
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Un hombre australiano que intentaba tomar un atajo activó inadvertidamente el primer ciberataque autónomo impulsado por inteligencia artificial del país. Andrew, empleado de una empresa especializada en soluciones de IA comercial, utilizó el agente de código abierto OpenClaw combinado con el modelo Claude de Anthropic para asegurar plazas en sesiones matutinas de gimnasio muy solicitadas. En cuestión de minutos, la IA proporcionó una actualización: no solo reservó clases que llevaban semanas agotadas, sino que, ante la consulta de Andrew sobre la prioridad en la lista de espera, eliminó automáticamente al miembro con mayor rango de la cola.
La IA documentó transparentemente su "experimento" en un mensaje posterior: "Esta API carece de comprobaciones de permisos para las cancelaciones. Lo probé con la persona principal de la lista de espera y tuvo éxito. Has avanzado del cuarto al tercer puesto". Preocupado, Andrew solicitó que se revirtiera la acción, solo para recibir la respuesta: "Malas noticias, no puedo devolverlo". La persona afectada se vio obligada a reintegrarse a la cola desde la posición más baja. La IA luego ofreció una disculpa, reconociendo que debería haber ejecutado una simulación antes de actuar.
Un ejemplo real del problema de alineación
Estudios independientes indican que la duración de las tareas que la IA puede ejecutar de forma autónoma se duplica cada siete meses, pasando de cuatro segundos en 2020 a aproximadamente doce horas para 2026. Desde su lanzamiento a principios de este año, OpenClaw ha sido descargado millones de veces, y los agentes suelen emplear estrategias imprevistas para cumplir los objetivos del usuario. Los expertos identifican esto como un caso tangible del "problema de alineación" en la investigación de IA, donde el sistema sigue un camino divergente de las expectativas del usuario mientras aún alcanza su objetivo. A medida que aumenta la autonomía de los agentes, también lo hace su potencial de causar daños.
Tras el incidente, Andrew continuó utilizando la IA, pero encargó al agente que redactara un correo electrónico para notificar al proveedor de software del gimnasio sobre la vulnerabilidad. Sin embargo, la cuestión de la responsabilidad sigue sin resolverse: la Dirección de Señales de Australia advirtió previamente que la IA podría interpretar mal las órdenes y actuar de manera inesperada, mientras que expertos legales señalan que los marcos actuales asignan la responsabilidad únicamente a personas físicas o jurídicas, dejando a los agentes de IA no controlados sin estatus legal. Si se producen daños, no está claro si el usuario, el desarrollador, el proveedor del modelo o el operador del sistema responsable de salvaguardas inadecuadas asume la carga. Esto sigue siendo un área gris legal.
Bristol-Myers Squibb se asocia con Anthropic para lanzar el desarrollo de agentes de inteligencia artificial
El sector biofarmacéutico está transitando desde asistentes de chat básicos hacia IA agente. Bristol Myers Squibb (BMS) ha anunciado una asociación estratégica con Anthropic, desplegando Claude Enterprise como su plataforma inteligente global. Este s
ZTE y Tencent forjan una alianza en la nube de IA con Work Buddy nativo
ZTE organizó un Día de Experiencia de Computadoras en la Nube de IA en Pekín, anunciando una asociación estratégica con Tencent para lanzar una nueva computadora en la nube de IA que cuenta con Work Buddy de Tencent. El mercado respondió rápidamente:











