En TechBBQ, el debate europeo sobre la IA se centra en quién ejerce el control

En TechBBQ en Copenhague, las discusiones entre inversores europeos, fundadores y operadores se centraron menos en qué construir con IA y más en quién debería controlarla. Desde las presentaciones en el escenario hasta las horas de cóctel y las fiestas posteriores, el tema predominante fue cómo Europa puede afirmar un mayor control sobre la tecnología que impulsa la IA.

Esta cuestión de la soberanía, en consonancia con el lema de este año «Emerging from Agency», cobró urgencia tras la decisión de Anthropic de restringir el acceso a sus modelos de IA Mythos y Fable para usuarios fuera de Europa a principios de este año.

El incidente llevó a muchos en el ecosistema europeo a examinar críticamente lo que significa poseer los modelos y la infraestructura que respaldan esta ola de IA, en lugar de depender de proveedores estadounidenses y chinos.

Un ejecutivo de una startup informó que la interrupción de Mythos y Fable afectó significativamente a su equipo de software, mientras que otro minimizó el impacto. Aunque depender de rivales geopolíticos para la IA podría causar futuros problemas para Europa, la situación inmediata sigue siendo manejable.

«El tema de la agencia de TechBBQ pareció particularmente oportuno este año, ya que la conversación pasó de lo que puede hacer la IA a lo que estamos realmente dispuestos a permitirle hacer», dijo Ellen de Brever, inversora ángel y directora de alianzas de la Fundación Novo Nordisk Cellerator, durante la conferencia, que concluyó el 27 de agosto.

Las discusiones abarcaron el futuro de la salud femenina, una cumbre sobre la colaboración nórdico-africana en innovación e inversión, y estrategias para atraer más capital de crecimiento a Europa. Aunque la IA sustentó muchas conversaciones, de Brever señaló: «los debates no trataban sobre máquinas más inteligentes, sino sobre el juicio humano y quién tiene derecho a mantenerse al mando».

«La era de los agentes de IA no es realmente una historia sobre las máquinas ganando agencia», continuó. «Es una historia sobre los humanos decidiendo a qué renunciar».

Un asistente destacó un panel con la presidenta de Signal, Meredith Whittaker, que moderé y se centró en la coexistencia de la privacidad y la IA, como una de las sesiones más refrescantes. Whittaker fue directa, oponiéndose a la integración de asistentes y agentes de IA en sistemas operativos, como la integración de ChatGPT con iMessage.

Describió esta era de la IA como la creación de un «aparato de recopilación de datos», argumentando que los laboratorios de IA utilizan un marketing astuto para ocultar las «consecuencias colaterales» de adquirir grandes cantidades de datos.

«Aún existe una enorme necesidad de mercado para la privacidad», dijo. «Y especialmente con las preocupaciones sobre la soberanía, tendremos clientes aquí».

En otro lugar, Emad Mostaque, cofundador de Stability AI e Intelligent Internet, se unió a un panel conmigo para discutir cómo una fuerza laboral agéntica impactará la economía y la soberanía personal.

«La soberanía es la capacidad de resistir el poder que se ejerce sobre ti», dijo Mostaque. Destacó la concentración de poder en unos pocos laboratorios de IA, afirmando: «Inevitablemente, todos los países serán gobernados por la IA» y que «la persona que controla la IA controla el país».

Mia Negru, directora de defensa e interacción de la organización sin fines de lucro Life With Artificials, compartió sus reflexiones después del panel.

«Si los agentes inteligentes realizan trabajo cognitivo y los robots realizan cada vez más trabajo físico, podríamos estar acercándonos a algo mucho más grande que otra revolución tecnológica», escribió. «Podríamos tener que repensar la propiedad, el trabajo, la democracia, la participación económica y, finalmente, incluso quién tiene derecho a participar en la sociedad».

Sin embargo, cuando concluyeron los paneles, los asistentes se relajaron en las horas felices y las veladas en la azotea, donde prevalecieron conversaciones más ligeras.

Lovable, Nvidia, OpenAI, AWS Startups y HSBC coorganizaron una barbacoa en la azotea donde hablé con fundadores sobre los centros tecnológicos en expansión de Dinamarca.

Ada Ventures de Londres organizó un encuentro en el bar de cócteles Bird, donde discutí con un fundador de tecnología sanitaria el aumento de la innovación en la salud cerebral femenina. Además, una cena para ponentes en una isla de Copenhague reunió a miembros de la prensa internacional que vieron bailarines del fuego, seguida de una fiesta posterior en el piso superior donde los invitados se quedaron hasta que el bar cerró.

«En una sala llena de conversaciones sobre máquinas, los momentos más memorables siguen viniendo de la cosa más simple», dijo de Brever. «Conexión humana, cara a cara, construyendo relaciones, compartiendo ideas y recordándonos mutuamente lo que la tecnología nunca puede reemplazar por completo».