Hogar
Varios países exigen una evaluación de seguridad para los modelos grandes antes de su lanzamiento.

A medida que la IA se expande rápidamente por todo el mundo, la supervisión de los modelos de lenguaje grande pasa de basarse en principios generales a implementar medidas concretas. Los gobiernos del Reino Unido, Estados Unidos y Australia han introducido recientemente nuevas normativas que exigen que los sistemas de IA de vanguardia pasen por pruebas gubernamentales de vulnerabilidades de seguridad y análisis de riesgos antes de su lanzamiento oficial.
El enfoque del Reino Unido se convierte en un modelo para políticas globales
En este cambio regulatorio, el marco de pruebas de ataque simulado y evaluación de riesgos desarrollado por el UK AI Safety Institute (AISI) está emergiendo como referencia para otros países. Recientemente, el gobierno británico anunció una colaboración formal con el Australian AI Safety Institute para monitorear conjuntamente los posibles riesgos que representa la IA avanzada en contextos de ciberataques y defensa, así como para intercambiar conocimientos sobre capacidades esenciales.
Este nuevo modelo marca un distanciamiento de la dependencia anterior de compromisos voluntarios por parte de las empresas, al incorporar directamente al gobierno en el proceso de pruebas. En lo sucesivo, los modelos de IA a gran escala deberán someterse a un procedimiento de cumplimiento similar a una “inspección de seguridad previa al lanzamiento” mientras compiten en el mercado, y las capacidades de prueba de seguridad se están convirtiendo cada vez más en un componente clave de la competitividad de los productos.
Los gigantes tecnológicos estadounidenses se inscriben en evaluaciones de seguridad nacional
Mientras tanto, el AI Standards and Innovation Center (CAISI), adscrito al Departamento de Comercio de Estados Unidos, está impulsando mecanismos similares de evaluación de seguridad nacional. Varias empresas líderes en IA, como Google DeepMind, Microsoft y xAI de Elon Musk, han firmado acuerdos importantes con este centro, comprometiéndose a proporcionar la información necesaria y someterse a evaluaciones exhaustivas de seguridad antes de publicar sus modelos.
Durante este período, Microsoft también confirmó que reforzará aún más su colaboración con los organismos de pruebas de Estados Unidos y el Reino Unido para reducir conjuntamente los riesgos para la seguridad pública que suponen los modelos avanzados a gran escala. Estas asociaciones internacionales rápidas envían una señal clara: la regulación futura de la IA ya no se centrará únicamente en si las empresas han redactado compromisos de seguridad, sino más bien en si dichos compromisos han sido realmente probados.
Artículo relacionado
Meta quiere que tu próximo gadget esté impulsado por Muse
El asistente de inteligencia artificial de Meta, Muse, que se encarga de reservas de viajes, envío de formularios y compras, ha ganado una amplia adopción, pero una nueva iniciativa puede interesar especialmente a desarrolladores y entusiastas del ha
Wan-Streamer v0.2 ofrece un chat de IA con latencia ultrabaja
A medida que la tecnología moderna avanza rápidamente, la interacción entre humanos e inteligencia artificial se vuelve más común. Las videollamadas tradicionales a menudo luchan con retrasos, demoras y desincronización audiovisual. Wan-Streamer v0.2
Meta se une a TSMC y Micron para equipar nuevos servidores con memoria antigua
A medida que la adopción de la inteligencia artificial se acelera en todo el mundo, la memoria DDR5 de próxima generación está experimentando una grave escasez de suministro. Para evitar retrasos en los despliegues de centros de datos de IA, Meta ha
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

A medida que la IA se expande rápidamente por todo el mundo, la supervisión de los modelos de lenguaje grande pasa de basarse en principios generales a implementar medidas concretas. Los gobiernos del Reino Unido, Estados Unidos y Australia han introducido recientemente nuevas normativas que exigen que los sistemas de IA de vanguardia pasen por pruebas gubernamentales de vulnerabilidades de seguridad y análisis de riesgos antes de su lanzamiento oficial.
El enfoque del Reino Unido se convierte en un modelo para políticas globales
En este cambio regulatorio, el marco de pruebas de ataque simulado y evaluación de riesgos desarrollado por el UK AI Safety Institute (AISI) está emergiendo como referencia para otros países. Recientemente, el gobierno británico anunció una colaboración formal con el Australian AI Safety Institute para monitorear conjuntamente los posibles riesgos que representa la IA avanzada en contextos de ciberataques y defensa, así como para intercambiar conocimientos sobre capacidades esenciales.
Este nuevo modelo marca un distanciamiento de la dependencia anterior de compromisos voluntarios por parte de las empresas, al incorporar directamente al gobierno en el proceso de pruebas. En lo sucesivo, los modelos de IA a gran escala deberán someterse a un procedimiento de cumplimiento similar a una “inspección de seguridad previa al lanzamiento” mientras compiten en el mercado, y las capacidades de prueba de seguridad se están convirtiendo cada vez más en un componente clave de la competitividad de los productos.
Los gigantes tecnológicos estadounidenses se inscriben en evaluaciones de seguridad nacional
Mientras tanto, el AI Standards and Innovation Center (CAISI), adscrito al Departamento de Comercio de Estados Unidos, está impulsando mecanismos similares de evaluación de seguridad nacional. Varias empresas líderes en IA, como Google DeepMind, Microsoft y xAI de Elon Musk, han firmado acuerdos importantes con este centro, comprometiéndose a proporcionar la información necesaria y someterse a evaluaciones exhaustivas de seguridad antes de publicar sus modelos.
Durante este período, Microsoft también confirmó que reforzará aún más su colaboración con los organismos de pruebas de Estados Unidos y el Reino Unido para reducir conjuntamente los riesgos para la seguridad pública que suponen los modelos avanzados a gran escala. Estas asociaciones internacionales rápidas envían una señal clara: la regulación futura de la IA ya no se centrará únicamente en si las empresas han redactado compromisos de seguridad, sino más bien en si dichos compromisos han sido realmente probados.
Meta quiere que tu próximo gadget esté impulsado por Muse
El asistente de inteligencia artificial de Meta, Muse, que se encarga de reservas de viajes, envío de formularios y compras, ha ganado una amplia adopción, pero una nueva iniciativa puede interesar especialmente a desarrolladores y entusiastas del ha
Wan-Streamer v0.2 ofrece un chat de IA con latencia ultrabaja
A medida que la tecnología moderna avanza rápidamente, la interacción entre humanos e inteligencia artificial se vuelve más común. Las videollamadas tradicionales a menudo luchan con retrasos, demoras y desincronización audiovisual. Wan-Streamer v0.2
Meta se une a TSMC y Micron para equipar nuevos servidores con memoria antigua
A medida que la adopción de la inteligencia artificial se acelera en todo el mundo, la memoria DDR5 de próxima generación está experimentando una grave escasez de suministro. Para evitar retrasos en los despliegues de centros de datos de IA, Meta ha











