Anthrope elimina silenciosamente el compromiso de IA responsable de la era de Biden del sitio web

Anthropic elimina compromisos de seguridad de IA de la era Biden de su sitio web

En un movimiento que ha generado sorpresa, Anthropic, un actor destacado en la industria de la IA, eliminó silenciosamente sus compromisos de la era Biden para un desarrollo seguro de IA de su centro de transparencia la semana pasada. Este cambio fue detectado primero por The Midas Project, un grupo de vigilancia de IA, que notó la ausencia de lenguaje que prometía compartir información e investigaciones sobre riesgos de IA, incluyendo sesgos, con el gobierno.

Estos compromisos formaban parte de un acuerdo voluntario que Anthropic asumió junto con otros gigantes tecnológicos como OpenAI, Google y Meta en julio de 2023. Este acuerdo fue un pilar de los esfuerzos de la administración Biden para promover un desarrollo responsable de IA, muchos de cuyos aspectos fueron posteriormente consagrados en la orden ejecutiva de Biden sobre IA. Las empresas participantes se habían comprometido a cumplir con ciertos estándares, como realizar pruebas de seguridad en sus modelos antes del lanzamiento, marcar contenido generado por IA y desarrollar una infraestructura robusta de privacidad de datos.

Además, Anthropic había acordado colaborar con el Instituto de Seguridad de IA, establecido bajo la orden ejecutiva de Biden, para avanzar en estas prioridades. Sin embargo, con la administración Trump probablemente disolviendo el Instituto, el futuro de estas iniciativas está en el aire.

Curiosamente, Anthropic no hizo un anuncio público sobre la eliminación de estos compromisos de su sitio web. La compañía insiste en que sus posiciones actuales sobre IA responsable no están relacionadas con los acuerdos de la era Biden o los preceden.

Implicaciones más amplias bajo la administración Trump

Este desarrollo es parte de un cambio más amplio en la política y regulación de IA bajo la administración Trump. En su primer día en el cargo, Trump revocó la orden ejecutiva de Biden sobre IA, y ya ha despedido a varios expertos en IA de puestos gubernamentales y reducido fondos para investigación. Estas acciones han establecido el escenario para un cambio notable en el tono entre las principales empresas de IA, algunas de las cuales ahora buscan expandir sus contratos gubernamentales e influir en el panorama de políticas de IA aún en evolución bajo Trump.

Por ejemplo, empresas como Google están redefiniendo qué constituye una IA responsable, potencialmente relajando estándares que ya no eran muy estrictos. Con gran parte de la limitada regulación de IA establecida durante la administración Biden en riesgo de ser desmantelada, las empresas podrían encontrarse con aún menos incentivos externos para autorregularse o someterse a supervisión de terceros.

Notablemente, las discusiones sobre controles de seguridad para sesgos y discriminación en sistemas de IA han estado conspicuamente ausentes de las declaraciones públicas de Trump sobre IA, lo que sugiere un posible cambio de estas prioridades.