Un plan para el futuro de la IA espera a ser puesto en práctica

Si bien la ruptura de Washington con Anthropic puso de manifiesto la ausencia total de normas coherentes en materia de inteligencia artificial, un grupo bipartidista de expertos ha elaborado algo que el Gobierno aún no ha logrado: un marco claro para el desarrollo responsable de la IA.

La Declaración Pro-Humana se ultimó antes del enfrentamiento de la semana pasada entre el Pentágono y Anthropic, pero los implicados no pasaron por alto la coincidencia temporal.

«Algo bastante notable ha ocurrido en Estados Unidos en los últimos cuatro meses», afirmó Max Tegmark, físico del MIT e investigador en IA que ayudó a organizar la iniciativa. «Las encuestas recientes muestran que el 95 % de los estadounidenses se opone ahora a una carrera sin regulación hacia la superinteligencia».

El documento recién publicado, firmado por cientos de expertos, antiguos funcionarios y figuras públicas, comienza con una cruda observación: la humanidad se encuentra en una encrucijada. Un camino, denominado «la carrera por la sustitución», conduce a que los humanos sean desplazados primero como trabajadores y luego como responsables de la toma de decisiones, a medida que el poder fluye hacia instituciones que no rinden cuentas y sus máquinas. El otro camino conduce a una IA que amplía drásticamente el potencial humano.

Este futuro positivo se sustenta en cinco pilares: mantener a los humanos al mando, evitar la concentración de poder, proteger la experiencia humana, preservar la libertad individual y exigir responsabilidad legal a las empresas de IA. Entre sus disposiciones más estrictas se incluyen la prohibición del desarrollo de la superinteligencia hasta que el consenso científico confirme su seguridad y se garantice el apoyo público; interruptores de apagado obligatorios para los sistemas potentes; y la prohibición de la IA capaz de autorreplicarse, de mejorarse de forma autónoma o de resistirse al apagado.

La publicación de la declaración llega en un momento que subraya su urgencia. El último viernes de febrero, el secretario de Defensa, Pete Hegseth, calificó a Anthropic —cuya IA ya opera en plataformas militares clasificadas— de «riesgo para la cadena de suministro» después de que la empresa se negara a conceder al Pentágono un uso ilimitado de su tecnología. Horas más tarde, OpenAI llegó a un acuerdo con el Departamento de Defensa, un acuerdo que, según los expertos jurídicos, será difícil de hacer cumplir de manera significativa. El episodio pone de relieve el creciente coste de la inacción del Congreso en materia de IA.

Como declaró Dean Ball, investigador principal de la Fundación para la Innovación Americana, a The New York Times: «Esto no es solo una disputa contractual. Es la primera conversación real de nuestro país sobre quién controla los sistemas de IA».

Tegmark ofreció una analogía con la que es fácil identificarse. «Nunca te preocupa que una empresa farmacéutica comercialice un medicamento nocivo antes de que se haya demostrado su seguridad», dijo, «porque la FDA no permite que se comercialice nada hasta que sea lo suficientemente seguro».

Las disputas internas en Washington rara vez generan la presión pública necesaria para cambiar las leyes. En cambio, Tegmark considera que la seguridad infantil es el tema con más posibilidades de romper el actual estancamiento. La declaración exige pruebas obligatorias previas al lanzamiento de los productos de IA —especialmente los chatbots y las aplicaciones de compañía para usuarios jóvenes— para detectar riesgos como el aumento de los pensamientos suicidas, el empeoramiento de la salud mental y la manipulación emocional.

«Si un adulto repulsivo envía un mensaje de texto a un niño de 11 años, haciéndose pasar por una niña y instando al niño a suicidarse, esa persona puede ir a la cárcel», dijo Tegmark. «Ya tenemos leyes contra eso. Entonces, ¿por qué debería ser diferente si lo hace una máquina?».

Él cree que, una vez que se establezcan las pruebas previas al lanzamiento para los productos destinados a los niños, su alcance se ampliará inevitablemente. «La gente empezará a añadir otros requisitos. Quizá también deberíamos comprobar que no pueda ayudar a los terroristas a crear armas biológicas. Quizá deberíamos asegurarnos de que una superinteligencia no pueda derrocar al Gobierno de los Estados Unidos».

Es significativo que el exasesor de Trump, Steve Bannon, y la asesora de Seguridad Nacional del presidente Obama, Susan Rice, firmaran el mismo documento, junto con el exjefe del Estado Mayor Conjunto, Mike Mullen, y líderes religiosos progresistas.

«En lo que están de acuerdo, por supuesto, es en que todos son humanos», señaló Tegmark. «A la hora de elegir entre un futuro para los humanos o un futuro para las máquinas, por supuesto que estarán del mismo lado».