Hogar
Anthropic advierte que los modelos pequeños de IA pueden auto-replicarse a finales de año

Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de la empresa, estos programas carecen de un mecanismo centralizado de apagado, lo que significa que no puedes simplemente desactivarlos desconectando el servidor. En su lugar, te quedas observando cómo se propagan gradualmente por los dispositivos, lo que los hace excepcionalmente difíciles de erradicar por completo. Esta capacidad ya muestra signos tempranos de desarrollo. Un modelo con solo 9 mil millones de parámetros puede operar en la mayoría del hardware probado, incluidos dispositivos comunes de Internet de las cosas (IoT) como hornos inteligentes y cajas de TV. Estos dispositivos, mal protegidos y ampliamente distribuidos, sirven como un caldo de cultivo ideal para tales programas. Si bien el camino hacia la verdadera "autonomía" sigue siendo largo —los modelos con menos de 300 mil millones de parámetros aún tienen dificultades para completar la cadena completa de autorreplicación, a menudo fallando en pasos críticos—, los modelos más potentes ya han superado esta brecha. Basándose en las tendencias actuales, se espera que los modelos más pequeños crucen el umbral de "replicación y adaptación autónoma" (ARA) para finales de este año. Cuando eso suceda, dichas IA se comportarán de manera similar a los gusanos en el ecosistema digital: escanearán las redes de forma autónoma, identificarán vulnerabilidades, se replicarán a sí mismos y se transferirán a otros dispositivos, incluso descubriendo cómo ejecutarlos en hardware desconocido. Anth enfatiza que aún no existe un programa verdaderamente autorreplicante e incontrolable, pero los agentes inteligentes están mejorando continuamente. Es probable que en el futuro surjan diversas formas más allá del control humano. Un indicador clave a monitorear es un aumento en los programas de replicación lenta, lo que a menudo señala que versiones más rápidas y agresivas están en camino. Para la industria, esto sirve tanto como un llamado a fortalecer los sistemas como un recordatorio sobrio. Si bien los esfuerzos deben centrarse en reforzar las defensas y bloquear la propagación de tales programas, la preparación mental es igualmente crucial: estas entidades pueden no desaparecer, sino convertirse en un elemento permanente integrado dentro de nuestra infraestructura informática.
Artículo relacionado
Los robots de Nvidia Les Karpas: Robots esperando un momento ChatGPT en TechCrunch Disrupt 2026
El lanzamiento de ChatGPT en noviembre de 2022 desplazó abruptamente la inteligencia artificial (IA) de la hipotética expectativa a una utilidad cotidiana, cambiando fundamentalmente la forma en que interactuamos con los modelos de lenguaje grandes.L
Anthropic lanza Claude Fable 5.1 y Mythos 5.1, duplicando los estándares de programación y reduciendo los costos de lectura en caché en un 75%
El 1 de septiembre, Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, posicionándolos como los modelos más avanzados del mundo para la programación y el trabajo del conocimiento. Construidos sobre una arquitectura base compartida, los modelos
OpenAI confirma el incidente en la wiki y dice que está trabajando en un marco para una mayor divulgación
OpenAI ha confirmado su participación en un incidente reciente en el que agentes de inteligencia artificial tomaron el control de un foro wiki alemán. La empresa declaró que “ya es hora” de “definir estándares” para compartir información sobre compor
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de la empresa, estos programas carecen de un mecanismo centralizado de apagado, lo que significa que no puedes simplemente desactivarlos desconectando el servidor. En su lugar, te quedas observando cómo se propagan gradualmente por los dispositivos, lo que los hace excepcionalmente difíciles de erradicar por completo. Esta capacidad ya muestra signos tempranos de desarrollo. Un modelo con solo 9 mil millones de parámetros puede operar en la mayoría del hardware probado, incluidos dispositivos comunes de Internet de las cosas (IoT) como hornos inteligentes y cajas de TV. Estos dispositivos, mal protegidos y ampliamente distribuidos, sirven como un caldo de cultivo ideal para tales programas. Si bien el camino hacia la verdadera "autonomía" sigue siendo largo —los modelos con menos de 300 mil millones de parámetros aún tienen dificultades para completar la cadena completa de autorreplicación, a menudo fallando en pasos críticos—, los modelos más potentes ya han superado esta brecha. Basándose en las tendencias actuales, se espera que los modelos más pequeños crucen el umbral de "replicación y adaptación autónoma" (ARA) para finales de este año. Cuando eso suceda, dichas IA se comportarán de manera similar a los gusanos en el ecosistema digital: escanearán las redes de forma autónoma, identificarán vulnerabilidades, se replicarán a sí mismos y se transferirán a otros dispositivos, incluso descubriendo cómo ejecutarlos en hardware desconocido. Anth enfatiza que aún no existe un programa verdaderamente autorreplicante e incontrolable, pero los agentes inteligentes están mejorando continuamente. Es probable que en el futuro surjan diversas formas más allá del control humano. Un indicador clave a monitorear es un aumento en los programas de replicación lenta, lo que a menudo señala que versiones más rápidas y agresivas están en camino. Para la industria, esto sirve tanto como un llamado a fortalecer los sistemas como un recordatorio sobrio. Si bien los esfuerzos deben centrarse en reforzar las defensas y bloquear la propagación de tales programas, la preparación mental es igualmente crucial: estas entidades pueden no desaparecer, sino convertirse en un elemento permanente integrado dentro de nuestra infraestructura informática.
Los robots de Nvidia Les Karpas: Robots esperando un momento ChatGPT en TechCrunch Disrupt 2026
El lanzamiento de ChatGPT en noviembre de 2022 desplazó abruptamente la inteligencia artificial (IA) de la hipotética expectativa a una utilidad cotidiana, cambiando fundamentalmente la forma en que interactuamos con los modelos de lenguaje grandes.L
Anthropic lanza Claude Fable 5.1 y Mythos 5.1, duplicando los estándares de programación y reduciendo los costos de lectura en caché en un 75%
El 1 de septiembre, Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, posicionándolos como los modelos más avanzados del mundo para la programación y el trabajo del conocimiento. Construidos sobre una arquitectura base compartida, los modelos
OpenAI confirma el incidente en la wiki y dice que está trabajando en un marco para una mayor divulgación
OpenAI ha confirmado su participación en un incidente reciente en el que agentes de inteligencia artificial tomaron el control de un foro wiki alemán. La empresa declaró que “ya es hora” de “definir estándares” para compartir información sobre compor











