El futuro de la IA depende de la soberanía de los datos en medio de los desafíos de los datos sintéticos

Presentado por EDB

A medida que los datos sintéticos transforman la toma de decisiones, los líderes empresariales deben reclamar autoridad sobre lo que es real, lo que se genera y en lo que se puede confiar.

En la película de 1983 Juegos de guerra, el personaje interpretado por Matthew Broderick casi desencadena una guerra nuclear, pero no con armas, sino con datos sintéticos. El sistema ficticio WOPR confunde datos simulados de juegos de guerra con amenazas reales. Sólo cuando los humanos llaman por teléfono a la base de destino y confirman que no ha habido un ataque real, descubren que el sistema ha funcionado mal.

Cuarenta años después, los riesgos son igual de graves, salvo que ahora los datos sintéticos constituyen la base de gran parte de nuestras decisiones. Los modelos, proyecciones y simulaciones generados por IA están integrados en la atención sanitaria, las finanzas, el marketing, la ciberseguridad y, cada vez más, en las operaciones básicas de las empresas modernas. Pero, ¿quién controla al que controla? ¿Y cómo mantenemos el control sobre las decisiones influidas -o tomadas- por datos sintéticos?

El auge de los datos sintéticos

Los datos sintéticos -información producida por la IA para asemejarse a conjuntos de datos del mundo real- lo están impulsando todo, desde protocolos de desarrollo de nuevos fármacos hasta modelos predictivos de clientes. Su valor es evidente: ciclos de desarrollo más rápidos, menos problemas de privacidad y la posibilidad de simular situaciones poco frecuentes. En muchos campos, es la única forma práctica de entrenar sistemas grandes y complejos.

Pero los datos sintéticos no son neutrales. Se basan en suposiciones, se entrenan a partir de fuentes sesgadas y se diseñan para reflejar un mundo que puede no ser real. Como la IA generativa crea cada vez más tanto las preguntas como las respuestas, corremos el riesgo de construir un bucle de retroalimentación en el que la IA se convierta en el único intérprete de los datos que produce.

Esto es más que un obstáculo técnico: es un reto de liderazgo.

El reto de la toma de decisiones

Tres cuestiones conforman ahora el dilema del líder contemporáneo en materia de datos:

1. ¿Cuándo deben primar los datos sintéticos sobre el juicio humano?
2. ¿Cómo equilibrar las señales del mundo real con las simulaciones sintéticas?
3. ¿Qué papel sigue desempeñando el instinto humano y cómo sabemos cuándo confiar en él?

Esto no es sólo teoría. Ya está ocurriendo en las herramientas de gestión de las relaciones con los clientes (CRM) impulsadas por IA que recomiendan los siguientes pasos, en los modelos predictivos que determinan los precios o evalúan el riesgo, y en los algoritmos utilizados para contratar o tomar decisiones sobre préstamos. Aunque los datos sintéticos pueden aumentar la eficiencia, sin una supervisión cuidadosa también pueden reforzar los sesgos, crear una falsa sensación de certeza y enmascarar señales importantes.

Esto resulta especialmente arriesgado en entornos automatizados de ritmo rápido. Si los sistemas de IA están continuamente generando y alterando datos, la idea misma de la verdad empieza a debilitarse. Sin controles claros y transparencia, podríamos perder nuestra capacidad de verificar cualquier cosa.

Thomas Koulopoulos, presidente del Grupo Delphi, autor y reconocido "futurista digital", advierte de que la proliferación de datos generados por IA plantea profundos interrogantes sobre la confianza y la precisión en la toma de decisiones:

"Si la IA está continuamente produciendo y modificando datos, ¿seguirá siendo válida su versión de la verdad? Se trata de una cuestión filosófica, pero relevante. Nos dirigimos hacia una especie de inflación de datos en la que el juicio humano por sí solo ya no es suficiente para extraer conclusiones significativas. La IA se convierte en la única entidad capaz de interpretar los datos que crea. Esto plantea cuestiones filosóficas y éticas cruciales".

Su visión subraya la necesidad de que los líderes establezcan límites claros, no sólo entre los datos reales y los sintéticos, sino también entre la delegación de tareas y la renuncia al juicio.

La soberanía es la nueva ventaja

La respuesta no es descartar los datos sintéticos, sino gestionarlos eficazmente.

La soberanía sobre los datos y los sistemas de IA significa disponer de la infraestructura, la visibilidad y la capacidad humana necesarias para examinar, cuestionar y contextualizar los conocimientos generados por las máquinas. Esto implica

• Procedencia de los datos: Conocer el origen de los datos y cómo se crearon.
• Transparencia de los modelos: Comprender cómo los sistemas de IA llegan a sus conclusiones
• Derechos de decisión: Definir si la autoridad final recae en la máquina, en el ser humano o en ambos.

Las empresas que desarrollen plataformas soberanas de datos e IA -que controlen, supervisen y adapten según sus propias políticas- estarán mejor equipadas para aprovechar las ventajas de los datos sintéticos y evitar sus limitaciones.

La visión humana es el factor diferenciador clave

Incluso en los sistemas de IA altamente automatizados, el discernimiento humano sigue siendo esencial. La experiencia del mundo real, la intuición y la comprensión contextual actúan como puente entre los datos sintéticos brutos y las decisiones fundamentadas.

Al igual que en WarGames, la intervención más importante no es técnica, sino humana: una llamada telefónica, una pregunta, un momento de reflexión que interrumpe la lógica programada de la máquina.

A medida que la IA se vuelve más sofisticada, los humanos deben cultivar una mayor curiosidad, pensar más en términos de probabilidades y sentirse cómodos con la incertidumbre. El futuro favorecerá a quienes sepan navegar por la zona ambigua entre lo sintético y lo real, entre la simulación y la realidad.

Los datos sintéticos son muy prometedores, pero la automatización no regulada no evitará las malas decisiones. La soberanía, la gobernanza y el conocimiento humano deben seguir siendo fundamentales en toda estrategia de IA. De lo contrario, puede que ni siquiera nos demos cuenta de cuándo permitimos que las máquinas confundan la simulación con la realidad.

Robert Feldman es Director Jurídico de EDB.