AI Summit Oportunidad perdió la oportunidad, dice el CEO de Anthrope

En un comunicado publicado el martes, Dario Amodei, CEO de la startup de IA Anthropic, expresó su decepción con la Cumbre de Acción de IA celebrada en París esta semana, calificándola como una "oportunidad perdida". Instó tanto a la industria de la IA como a los funcionarios gubernamentales a actuar con mayor rapidez y claridad.

"Estuvimos encantados de participar en la Cumbre de Acción de IA en París y elogiamos al gobierno francés por unir a empresas de IA, investigadores y formuladores de políticas a nivel global", afirmó Amodei. "Sin embargo, la urgencia y el enfoque necesarios en los temas clave no han estado a la altura del rápido avance de la tecnología."

La crítica de Amodei a la cumbre, que forma parte de una serie de conferencias destinadas a forjar un consenso sobre la gobernanza de la IA, resonó con los sentimientos de varios académicos que criticaron el evento a principios de la semana. Un académico comentó a Transformer que los compromisos de la cumbre, que no fueron firmados por Estados Unidos ni el Reino Unido, eran esencialmente "promesas vacías envueltas en lugares comunes".

En la conferencia, el vicepresidente de Estados Unidos, JD Vance, presentó una perspectiva marcadamente diferente, criticando lo que describió como regulaciones excesivamente restrictivas sobre la IA propuestas por Europa. También cuestionó el enfoque de la conferencia en la moderación de contenido, desestimando los términos "sostenible" e "inclusivo" en los compromisos como intentos velados de "censura autoritaria".

Amodei destacó la rápida evolución de la IA, advirtiendo sobre posibles resultados catastróficos si no se regula adecuadamente. "Piensa en los sistemas de IA como una nueva nación llena de seres altamente inteligentes que ingresan al escenario global", explicó. "La IA avanzada plantea serias amenazas a la seguridad global, particularmente por el mal uso por parte de actores no estatales... Es crucial que las naciones democráticas lideren el desarrollo de la IA, evitando que regímenes autoritarios logren una superioridad militar global a través de la IA."

Instó a los gobiernos a monitorear activamente el uso de la IA e implementar políticas que aseguren beneficios económicos equitativos de las tecnologías avanzadas de IA. Amodei también enfatizó la necesidad de una mayor transparencia gubernamental en cuanto a la seguridad y protección de la IA, junto con estrategias para evaluar los riesgos de la IA.

Esta perspectiva contrasta con la de OpenAI, que expresó confianza en que la conferencia de París marcó "otro hito importante hacia el desarrollo responsable y beneficioso de la IA para todos".

Anthropic históricamente ha sido más abierto a la regulación de la IA. Amodei anteriormente ha expresado preocupaciones sobre los posibles impactos negativos de una IA no regulada en la economía, la sociedad y la seguridad. Anthropic apoyó sutilmente el proyecto de ley SB 1047 de California, una legislación regulatoria integral sobre IA que generó mucho debate antes de ser vetada por el gobernador Gavin Newsom el pasado otoño. En contraste, OpenAI se opuso al proyecto de ley.

Sin embargo, vale la pena señalar que la postura de Anthropic no es puramente altruista. Similar a los escritos recientes del CEO de OpenAI, Sam Altman, Amodei no proporcionó propuestas específicas sobre cómo asegurar que los beneficios de la IA avanzada se distribuyan de manera amplia y equitativa.

Lee nuestra cobertura completa de la Cumbre de Acción de Inteligencia Artificial en París.