La rentabilité de l'IA répond aux préoccupations en matière de souveraineté des données

La tension entre la rentabilité de l'IA et la souveraineté des données oblige les organisations mondiales à réévaluer leurs stratégies de gestion des risques d'entreprise.

Pendant plus d'un an, le débat sur l'IA générative s'est concentré sur la course aux capacités, évaluant fréquemment le succès à l'aide de paramètres et de scores de référence imparfaits. Les discussions au sein des conseils d'administration connaissent aujourd'hui un changement d'orientation nécessaire.

Bien que l'attrait des modèles à faible coût et haute performance offre une voie séduisante vers une innovation rapide, les risques cachés liés à la résidence des données et à l'influence de l'État incitent à réévaluer le choix des fournisseurs. Le laboratoire d'IA DeepSeek, basé en Chine, est récemment apparu comme un exemple central dans cette discussion à l'échelle de l'industrie.

Bill Conner, ancien conseiller d'Interpol et du GCHQ et actuel PDG de Jitterbit, note que DeepSeek a d'abord été bien accueilli pour avoir remis en question les normes établies en prouvant que « les modèles linguistiques performants à grande échelle ne nécessitent pas toujours un financement digne de la Silicon Valley ».

Pour les entreprises qui cherchent à réduire les dépenses substantielles liées aux programmes pilotes d'IA générative, cette rentabilité était naturellement attrayante. M. Conner souligne que ces « coûts de formation prétendument faibles ont indéniablement relancé le débat au sein du secteur sur l'efficacité, l'optimisation et les solutions d'IA « suffisamment bonnes ».

Risques liés à l'IA et à la souveraineté des données

L'enthousiasme pour des performances économiques s'est heurté à des réalités géopolitiques. L'efficacité opérationnelle ne peut être dissociée de la sécurité des données, en particulier lorsque celles-ci alimentent des modèles hébergés dans des régions où les normes juridiques en matière de confidentialité et d'accès gouvernemental sont différentes.

Les informations récentes concernant DeepSeek ont modifié le calcul des risques pour les entreprises occidentales. M. Conner souligne « les récentes révélations du gouvernement américain suggérant que DeepSeek non seulement stocke des données en Chine, mais les fournit également activement aux agences de renseignement de l'État ».

Cette évolution élève la question au-delà de la conformité standard au RGPD ou au CCPA. Le « niveau de risque dépasse les questions de confidentialité conventionnelles pour entrer dans le domaine de la sécurité nationale ».

Pour les dirigeants d'entreprise, cela crée un danger distinct. L'intégration du LLM n'est généralement pas une action isolée ; elle implique de relier le modèle à des référentiels de données propriétaires, à des systèmes d'information sur les clients et à des bases de données de propriété intellectuelle. Si le modèle d'IA central contient une « porte dérobée » ou est contraint de partager des données avec un service de renseignement étranger, la souveraineté des données est perdue et l'organisation sape effectivement ses propres défenses de sécurité, annulant ainsi toute économie de coûts.

M. Conner met en garde : « Les liens de DeepSeek avec les réseaux d'approvisionnement militaire et les méthodes présumées de contournement des contrôles à l'exportation devraient constituer une alerte cruciale pour les PDG, les DSI et les responsables des risques. » L'utilisation d'une telle technologie pourrait involontairement impliquer une entreprise dans des violations de sanctions ou des vulnérabilités de la chaîne d'approvisionnement.

Le succès dépend désormais non seulement des capacités de génération de code ou de synthèse de documents, mais aussi des normes juridiques et éthiques du fournisseur. Dans des secteurs tels que la finance, la santé et la défense, aucune incertitude quant à l'origine des données n'est tolérée.

Les équipes techniques peuvent se concentrer sur les mesures de performance de l'IA et la facilité d'intégration pendant les phases de validation du concept, au risque de négliger le contexte géopolitique de l'outil et les exigences en matière de souveraineté des données. Les responsables des risques et les directeurs informatiques doivent mettre en place une gouvernance qui s'interroge sur l'origine et la propriété du modèle, et pas seulement sur sa fonctionnalité.

Gouvernance en matière de rentabilité de l'IA

La décision d'adopter ou d'interdire un modèle d'IA particulier relève de la responsabilité de l'entreprise. Les actionnaires et les clients s'attendent à ce que leurs données restent sécurisées et soient utilisées exclusivement à des fins commerciales convenues.

Conner l'exprime clairement à l'intention des dirigeants occidentaux, en déclarant que « pour les PDG, les DSI et les responsables des risques occidentaux, il ne s'agit pas de performances du modèle ou de réductions de coûts ». Il s'agit plutôt « d'une question de gouvernance, de responsabilité et d'obligation fiduciaire ».

Les entreprises « ne peuvent raisonnablement mettre en œuvre un système dont l'emplacement des données, les finalités d'utilisation et l'influence gouvernementale sont essentiellement flous ». Ce manque de transparence crée un risque inacceptable. Même si un modèle offre 95 % des performances d'un concurrent à moitié prix, la possibilité de sanctions réglementaires, d'atteinte à la réputation et de perte de propriété intellectuelle peut immédiatement effacer ces économies.

L'exemple de DeepSeek encourage les organisations à revoir leurs chaînes d'approvisionnement actuelles en matière d'IA. Les dirigeants doivent garantir une visibilité totale sur le lieu de traitement des modèles et sur les personnes qui contrôlent l'accès aux données fondamentales.

À mesure que le marché de l'IA générative évolue, la confiance, la transparence et la souveraineté des données deviendront probablement plus importantes que la simple rentabilité.

Voir aussi : SAP et Fresenius vont construire une infrastructure IA souveraine pour les soins de santé

Vous souhaitez en savoir plus sur l'IA et le big data auprès d'experts du secteur ? Rendez-vous au salon AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement de grande envergure fait partie du TechEx et se déroule parallèlement à d'autres conférences technologiques majeures, notamment le Cyber Security & Cloud Expo. Pour plus d'informations, cliquez ici.

AI News est alimenté par TechForge Media. Découvrez ici d'autres événements et webinaires à venir sur les technologies d'entreprise.