Anthrope elimina la política de Biden AI del sitio web en silencio

Anthropic, una empresa enfocada en el desarrollo de IA, recientemente eliminó de su sitio web varios compromisos voluntarios de seguridad en IA que se habían establecido en colaboración con la administración de Biden en 2023. Estos compromisos, destinados a promover una IA segura y confiable, incluían compartir información sobre la gestión de riesgos de la IA y realizar investigaciones sobre sesgos y discriminación en la IA. El grupo de vigilancia de IA, The Midas Project, señaló que estos fueron retirados del centro de transparencia de Anthropic la semana pasada. Sin embargo, los compromisos relacionados con la reducción del abuso sexual basado en imágenes generadas por IA aún se mantienen.

Anthropic no hizo ningún anuncio sobre este cambio y no respondió de inmediato a las solicitudes de comentarios. La empresa, junto con otras como OpenAI, Google, Microsoft, Meta e Inflection, había acordado seguir ciertas medidas voluntarias de seguridad en IA propuestas por la administración de Biden en julio de 2023. Estas medidas involucraban pruebas de seguridad internas y externas de los sistemas de IA antes de su lanzamiento, invertir en ciberseguridad para proteger datos sensibles de la IA y desarrollar formas de marcar con marcas de agua el contenido generado por IA.

Es importante destacar que Anthropic ya estaba implementando muchas de estas prácticas, y el acuerdo no era legalmente vinculante. El objetivo de la administración de Biden era resaltar sus prioridades de política de IA antes de que se implementara una Orden Ejecutiva de IA más completa unos meses después.

Por otro lado, la administración de Trump ha señalado un enfoque diferente para la gobernanza de la IA. En enero, el presidente Trump revocó la Orden Ejecutiva de IA, que había ordenado al Instituto Nacional de Estándares y Tecnología crear directrices para que las empresas identifiquen y corrijan defectos en los modelos de IA, incluidos los sesgos. Los aliados de Trump criticaron la orden por sus pesados requisitos de informes, que sentían que obligaban a las empresas a revelar sus secretos comerciales.

Poco después de revocar la Orden Ejecutiva de IA, Trump emitió una nueva directiva para que las agencias federales apoyen el desarrollo de una IA "libre de sesgos ideológicos" que promueva "el florecimiento humano, la competitividad económica y la seguridad nacional". A diferencia de la iniciativa de Biden, la orden de Trump no abordó la lucha contra la discriminación en la IA.

The Midas Project destacó en X que los compromisos de la era de Biden no indicaban que fueran temporales o dependieran del partido político en el poder. Tras las elecciones de noviembre, varias empresas de IA reafirmaron sus compromisos.

Anthropic no es la única empresa que ha ajustado sus políticas públicas desde que Trump asumió el cargo. OpenAI recientemente declaró que defenderá "la libertad intelectual ... sin importar cuán desafiante o controvertido sea un tema" y asegurará que su IA no censure ciertos puntos de vista. OpenAI también eliminó una página de su sitio web que anteriormente destacaba su dedicación a la diversidad, equidad e inclusión (DEI). Estos programas han enfrentado críticas de la administración de Trump, lo que ha llevado a muchas empresas a eliminar o modificar significativamente sus iniciativas de DEI.

Algunos de los asesores de IA de Trump en Silicon Valley, incluidos Marc Andreessen, David Sacks y Elon Musk, han acusado a empresas como Google y OpenAI de censurar la IA al restringir las respuestas de sus chatbots. Sin embargo, laboratorios como OpenAI han negado que los ajustes en sus políticas se deban a presiones políticas.

Tanto OpenAI como Anthropic están actualmente manteniendo o buscando activamente contratos gubernamentales.

Varias horas después de que se publicara este artículo, Anthropic proporcionó a TechCrunch la siguiente declaración:

"Seguimos comprometidos con los compromisos voluntarios de IA establecidos bajo la administración de Biden. Este progreso y las acciones específicas continúan reflejándose en [nuestro] centro de transparencia dentro del contenido. Para evitar más confusiones, agregaremos una sección que cite directamente dónde se alinea nuestro progreso."

Actualizado a las 11:25 a.m. Pacífico: Se agregó una declaración de Anthropic.