Hogar
La polémica sobre el «jailbreak» desencadena una ola de censura a nivel mundial, lo que lleva a la rápida retirada del modelo de IA «Claude Fable5»
Anthropic ha presentado recientemente Claude Fable5, que describe como su modelo de lenguaje grande de nivel «Mythos» más potente hasta la fecha. El destacado rendimiento del modelo en la programación y la gestión de tareas complejas no tardó en llamar la atención generalizada del mundo tecnológico. Sin embargo, en menos de 72 horas, el Gobierno de EE. UU. impuso una prohibición mundial sobre este producto de IA tan esperado, lo que obligó a la empresa a cerrar todos sus servicios.
La prohibición es especialmente agresiva. Alegando motivos de seguridad nacional, el Gobierno de EE. UU. prohibió el acceso al modelo no solo a personas e instituciones no estadounidenses, sino también a ciudadanos extranjeros que se encontraran en territorio estadounidense, incluidos los propios empleados extranjeros de Anthropic. Dado que verificar de forma rápida y precisa la nacionalidad de cada usuario resultaba técnicamente complicado, Anthropic adoptó un enfoque general, suspendiendo todos los servicios de Claude Fable5 y su modelo relacionado, Claude Mythos5. Los usuarios afectados son ahora redirigidos automáticamente a la versión anterior.

Este incidente se desencadenó tras el descubrimiento de una vulnerabilidad crítica. Los informes indican que el fallo podía eludir las medidas de seguridad integradas en el modelo, lo que permitía una forma de «jailbreak». Anthropic sostuvo que el método de «jailbreak» era limitado y no generalizable, y que el modelo se había sometido a miles de horas de pruebas de ataque simulado antes de su lanzamiento. No obstante, el Gobierno de EE. UU. adoptó una postura inusualmente dura. Las autoridades argumentaron que las capacidades de procesamiento de Claude Fable5 se acercan al «nivel de un arma de red», por lo que cualquier incumplimiento de las medidas de seguridad podría acarrear consecuencias impredecibles. Exigieron a Anthropic que solucionara la vulnerabilidad de inmediato o retirara el producto del mercado.
Ambas partes se han enzarzado en un acalorado enfrentamiento sobre la gravedad de la vulnerabilidad. Anthropic argumentó que detener un producto utilizado por cientos de millones de usuarios debido a una vulnerabilidad limitada y no generalizada sentaría un peligroso precedente para el sector. Sin embargo, fuentes internas sugieren que las preocupaciones del Gobierno son más profundas. Los informes indican que las autoridades estadounidenses sospechan que organizaciones vinculadas a China podrían haber aprovechado ya la vulnerabilidad para acceder a todas las capacidades del modelo, lo que aumenta los riesgos de ingeniería inversa o destilación del modelo.
Artículo relacionado
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Anthropic ha presentado recientemente Claude Fable5, que describe como su modelo de lenguaje grande de nivel «Mythos» más potente hasta la fecha. El destacado rendimiento del modelo en la programación y la gestión de tareas complejas no tardó en llamar la atención generalizada del mundo tecnológico. Sin embargo, en menos de 72 horas, el Gobierno de EE. UU. impuso una prohibición mundial sobre este producto de IA tan esperado, lo que obligó a la empresa a cerrar todos sus servicios.
La prohibición es especialmente agresiva. Alegando motivos de seguridad nacional, el Gobierno de EE. UU. prohibió el acceso al modelo no solo a personas e instituciones no estadounidenses, sino también a ciudadanos extranjeros que se encontraran en territorio estadounidense, incluidos los propios empleados extranjeros de Anthropic. Dado que verificar de forma rápida y precisa la nacionalidad de cada usuario resultaba técnicamente complicado, Anthropic adoptó un enfoque general, suspendiendo todos los servicios de Claude Fable5 y su modelo relacionado, Claude Mythos5. Los usuarios afectados son ahora redirigidos automáticamente a la versión anterior.

Este incidente se desencadenó tras el descubrimiento de una vulnerabilidad crítica. Los informes indican que el fallo podía eludir las medidas de seguridad integradas en el modelo, lo que permitía una forma de «jailbreak». Anthropic sostuvo que el método de «jailbreak» era limitado y no generalizable, y que el modelo se había sometido a miles de horas de pruebas de ataque simulado antes de su lanzamiento. No obstante, el Gobierno de EE. UU. adoptó una postura inusualmente dura. Las autoridades argumentaron que las capacidades de procesamiento de Claude Fable5 se acercan al «nivel de un arma de red», por lo que cualquier incumplimiento de las medidas de seguridad podría acarrear consecuencias impredecibles. Exigieron a Anthropic que solucionara la vulnerabilidad de inmediato o retirara el producto del mercado.
Ambas partes se han enzarzado en un acalorado enfrentamiento sobre la gravedad de la vulnerabilidad. Anthropic argumentó que detener un producto utilizado por cientos de millones de usuarios debido a una vulnerabilidad limitada y no generalizada sentaría un peligroso precedente para el sector. Sin embargo, fuentes internas sugieren que las preocupaciones del Gobierno son más profundas. Los informes indican que las autoridades estadounidenses sospechan que organizaciones vinculadas a China podrían haber aprovechado ya la vulnerabilidad para acceder a todas las capacidades del modelo, lo que aumenta los riesgos de ingeniería inversa o destilación del modelo.
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en











