La rentabilidad de la IA se enfrenta a las preocupaciones sobre la soberanía de los datos

La tensión entre la rentabilidad de la IA y la soberanía de los datos está obligando a las organizaciones globales a reevaluar sus estrategias de gestión de riesgos empresariales.

Durante más de un año, el debate sobre la IA generativa se centró en una carrera por las capacidades, evaluando con frecuencia el éxito a través del recuento de parámetros y puntuaciones de referencia imperfectas. Las discusiones en las salas de juntas están experimentando ahora un cambio de enfoque necesario.

Aunque el atractivo de los modelos de bajo coste y alto rendimiento presenta una vía tentadora hacia la innovación rápida, los riesgos ocultos relacionados con la residencia de los datos y la influencia del Estado están provocando una reevaluación de las opciones de proveedores. El laboratorio de IA DeepSeek, con sede en China, se ha convertido recientemente en un ejemplo central en este debate que afecta a todo el sector.

Bill Conner, antiguo asesor de la Interpol y del GCHQ y actual director ejecutivo de Jitterbit, señala que DeepSeek fue inicialmente bien recibido por desafiar las normas establecidas al demostrar que «los modelos lingüísticos de gran rendimiento no siempre necesitan una financiación al nivel de Silicon Valley».

Para las empresas que desean reducir los considerables gastos de los programas piloto de IA generativa, esta rentabilidad resultaba naturalmente atractiva. Conner señala que estos «costes de formación supuestamente bajos han reavivado sin lugar a dudas el diálogo del sector sobre la eficiencia, la optimización y las soluciones de IA "suficientemente buenas"».

Riesgos de la IA y la soberanía de los datos

El entusiasmo por un rendimiento económico se ha topado con la realidad geopolítica. La eficiencia operativa no puede separarse de la seguridad de los datos, especialmente cuando estos alimentan modelos alojados en regiones con normas legales diferentes en materia de privacidad y acceso gubernamental.

La información reciente sobre DeepSeek ha cambiado el cálculo de riesgos para las empresas occidentales. Conner destaca «las recientes revelaciones del Gobierno de EE. UU. que sugieren que DeepSeek no solo almacena datos en China, sino que también los proporciona activamente a las agencias de inteligencia estatales».

Este desarrollo eleva la cuestión más allá del cumplimiento estándar del RGPD o la CCPA. El «nivel de riesgo se eleva por encima de las cuestiones de privacidad convencionales y entra en el ámbito de la seguridad nacional».

Para los líderes empresariales, esto supone un peligro claro. La integración de LLM no suele ser una acción aislada, sino que implica vincular el modelo a repositorios de datos propios, sistemas de información de clientes y bases de datos de propiedad intelectual. Si el modelo central de IA contiene una «puerta trasera» o se ve obligado a compartir datos con un servicio de inteligencia extranjero, se pierde la soberanía de los datos y la organización socava efectivamente sus propias defensas de seguridad, anulando cualquier ahorro de costes.

Conner advierte que «las conexiones de DeepSeek con las redes de adquisición militar y los supuestos métodos para eludir los controles de exportación deberían servir de alerta crucial para los directores generales, los directores de informática y los responsables de riesgos». El uso de esta tecnología podría implicar involuntariamente a una empresa en infracciones de sanciones o vulnerabilidades de la cadena de suministro.

El éxito ahora depende no solo de la generación de código o de las capacidades de resumen de documentos, sino también de los estándares legales y éticos del proveedor. En sectores como las finanzas, la sanidad y la defensa, no se tolera la incertidumbre sobre el origen de los datos.

Los equipos técnicos pueden centrarse en las métricas de rendimiento de la IA y la facilidad de integración durante las fases de prueba de concepto, descuidando posiblemente los antecedentes geopolíticos de la herramienta y los requisitos de soberanía de los datos. Los responsables de riesgos y los directores de informática deben implementar una gobernanza que cuestione el origen y la propiedad del modelo, no solo su funcionalidad.

Gobernanza sobre la rentabilidad de la IA

La decisión de adoptar o prohibir un modelo de IA concreto es una cuestión de responsabilidad corporativa. Los accionistas y los clientes esperan que sus datos permanezcan seguros y se utilicen exclusivamente para los fines comerciales acordados.

Conner lo expresa claramente para los líderes occidentales, afirmando que «para los directores generales, directores de informática y responsables de riesgos occidentales, no se trata del rendimiento del modelo o del ahorro de costes». Más bien, «es una cuestión de gobernanza, responsabilidad y deber fiduciario».

Las empresas «no pueden implementar de forma razonable un sistema en el que la ubicación de los datos, los fines de su uso y la influencia del gobierno sean esencialmente poco claros». Esta falta de transparencia crea un riesgo inaceptable. Incluso si un modelo ofrece el 95 % del rendimiento de un competidor a mitad de precio, la posibilidad de sanciones reglamentarias, daños a la reputación y pérdida de propiedad intelectual puede borrar inmediatamente esos ahorros.

El ejemplo de DeepSeek anima a las organizaciones a revisar sus actuales cadenas de suministro de IA. Los ejecutivos deben garantizar una visibilidad completa de dónde se procesa el modelo y quién controla el acceso a los datos fundamentales.

A medida que evoluciona el mercado de la IA generativa, es probable que la confianza, la transparencia y la soberanía de los datos cobren más valor que la mera eficiencia en los costes.

Véase también: SAP y Fresenius construirán una red troncal de IA soberana para la asistencia sanitaria

¿Le interesa obtener más información sobre la IA y el big data de la mano de expertos del sector? Visite la AI & Big Data Expo que se celebra en Ámsterdam, California y Londres. Este amplio evento forma parte de TechEx y se celebra junto con otras importantes conferencias tecnológicas, como la Cyber Security & Cloud Expo. Encontrará más detalles aquí.

AI News está impulsado por TechForge Media. Descubra aquí otros eventos y seminarios web sobre tecnología empresarial que se celebrarán próximamente.