Joëlle Pineau von Cohere über souveräne KI und Unternehmenssicherheit

Eine von Cohere in Auftrag gegebene IDC-Studie befasst sich mit „Sovereign AI“, wobei Chief AI Officer Joëlle Pineau wesentliche Strategien für die Cloud-Sicherheit und Daten-Governance in Unternehmen skizziert.

Laut dem von dem KI-Unternehmen Cohere in Auftrag gegebenen IDC-Bericht „The State of Sovereign AI Adoption in 2026“ hat jeder dritte Unternehmensleiter Schwierigkeiten, den Begriff „souveräne KI“ mit eigenen Worten zu definieren.

Das kanadische KI-Unternehmen Cohere entwickelt große Sprachmodelle (Large Language Models, LLMs) und Tools zur Verarbeitung natürlicher Sprache, die speziell auf den Einsatz in Unternehmen zugeschnitten sind. Zwischen 2021 und 2024 sicherte sich das Unternehmen vier große Finanzierungsrunden (Serie A bis D) und nahm dabei fast 1 Milliarde US-Dollar ein.

Das Unternehmen hat bereits in einem Blogbeitrag argumentiert, dass der wachsende Trend, dass Nationen ihre eigene KI-Infrastruktur, ihre Modelle und Daten kontrollieren – bekannt als „souveräne KI“ –, durch regional ausgerichtete KI-Innovationen neue Wettbewerbsdynamiken hervorbringen könnte.

Die IDC-Studie definiert souveräne KI als „die Fähigkeit einer Organisation, freie Wahl und Kontrolle über die Konzeption, Entwicklung, Bereitstellung, Zugänglichkeit, den Betrieb, die Wartung und die Steuerung ihrer KI-Systeme und -Anwendungen sowie über die zugrunde liegenden technologischen Grundlagen, auf denen diese beruhen, zu haben“.

Unter den befragten Führungskräften, die „souveräne KI“ definieren konnten, beschreiben 52 % diesen Begriff ausdrücklich im Hinblick auf den Standort oder die nationale Kontrolle, während 35 % die digitale Unabhängigkeit betonen.

Der größte blinde Fleck ist die Abhängigkeit in Sicherheitsfragen

Joëlle Pineau, Chief AI Officer bei Cohere

Wichtigste Erkenntnisse

• Jeder dritte Führungskraft kann den Begriff „souveräne KI“ nicht beschreiben; nur 13 % geben an, damit sehr vertraut zu sein.
• Über 80 % der Entscheidungsträger im Vereinigten Königreich nutzen öffentliche oder private Clouds von Drittanbietern für regulierte KI-Prozesse.
• Datenlecks und Compliance-Risiken gelten als die größten Risiken bei der Einführung und werden von 82 % der Führungskräfte im Finanzdienstleistungssektor und 77 % der Führungskräfte in der Fertigungsindustrie genannt.
• Unter den informierten Führungskräften definieren 52 % souveräne KI anhand geografischer bzw. nationaler Kontrolle, während 35 % digitale Unabhängigkeit anführen.
• 37 % der Telekommunikationsunternehmen und 35 % der kanadischen Unternehmen streben souveräne KI in erster Linie zur Marktdifferenzierung an.

Der Sicherheitsblindfleck

Trotz großer Bedenken hinsichtlich des Datenschutzes geben über 80 % der britischen Entscheidungsträger an, sich bei regulierten KI-Prozessen auf öffentliche oder private Clouds zu verlassen. Dies wirft die Frage auf, ob echte Souveränität auf der Cloud-Infrastruktur von Drittanbietern überhaupt möglich ist oder ob Unternehmen in einem falschen Sicherheitsgefühl agieren.

Joëlle Pineau, Chief AI Officer bei Cohere, betonte: „Der größte blinde Fleck ist die Abhängigkeit in Sicherheitsfragen.

„Wenn kritische KI über einen externen Anbieter läuft, verlässt man sich sowohl auf dessen Sicherheit als auch auf die eigene. Jüngste Vorfälle bei Anthropic und OpenAI haben gezeigt, dass Schwachstellen oder Ausfälle auf der Ebene des Modellanbieters nachgelagerte Risiken für Kunden verursachen können.

Wir stellen unsere Lösungen innerhalb der kundeneigenen Umgebung hinter deren gesicherten Firewalls bereit – das ist eine sicherere Umgebung, um das Risiko eines Cyberangriffs zu mindern und zu reduzieren.“

Cohere hilft Unternehmen dabei, ihre eigene KI zu nutzen. Bildnachweis: Cohere

„Echte KI-Souveränität“

Die Untersuchung identifizierte Datenlecks und Compliance als die beiden wichtigsten Bedenken bei der Einführung souveräner KI branchen- und länderübergreifend. Für KI-Praktiker, die diese Systeme entwickeln und bereitstellen, könnte das Verständnis dieser Prioritäten entscheidend für Architekturentscheidungen und Implementierungsstrategien sein.

Auch ohne eine einheitliche Definition von souveräner KI ist der Konsens über die Bedeutung von Datenschutz und Sicherheit eindeutig: 82 % der Fachleute aus dem Finanzdienstleistungssektor sind am stärksten besorgt über Datenlecks und Datenschutz, dicht gefolgt von 77 % der Vertreter aus der Fertigungsindustrie, 75 % aus der Telekommunikationsbranche, 74 % aus dem Gesundheitswesen und 70 % aus dem Energiesektor.

Es gibt so viel „Sovereignty Washing“, bei dem Lösungen, die überhaupt nicht zur Diversifizierung oder Resilienz beitragen, als „souverän“ vermarktet und in diesem Licht dargestellt werden.

Joëlle Pineau, Chief AI Officer bei Cohere

Viele Unternehmen sehen Souveränität zudem als Weg zu mehr Sicherheit, geringerer Abhängigkeit von externen Anbietern und Marktdifferenzierung. Insbesondere in Kanada gaben 35 % der Befragten an, dass Wettbewerbsvorteile der treibende Faktor für souveräne KI sind. Dabei führen Telekommunikationsanbieter mit 37 % die Liste der Wettbewerbsvorteile an, dicht gefolgt von 32 % der Vertreter aus der Fertigungsindustrie.

Joëlle verteidigt souveräne KI umgehend und betont, dass es sich dabei nicht um ein falsches Sicherheitsgefühl handelt, sondern um ein Spektrum, das von strengen technischen Garantien abhängt.

„Echte Souveränität kann Cloud-Infrastruktur einschließen, aber das bloße Hosten von Daten in einer bestimmten Region oder einer privaten Cloud macht ein KI-System nicht automatisch souverän“, sagt sie.

„Es erfordert zudem eine Reihe technischer Garantien darüber, wer das Modell, die Daten, den Zugriff, die Updates und die Bereitstellung kontrolliert und welche Abhängigkeiten von einer externen API bestehen bleiben.

Es gibt so viel ‚Sovereignty Washing‘, bei dem Lösungen, die überhaupt nicht zur Diversifizierung oder Resilienz beitragen, als ‚souverän‘ vermarktet und in diesem Licht dargestellt werden.

„Die wichtigere Frage ist, ob Souveränität in eine Unternehmensumgebung integriert wird, anstatt nur als Etikett hinzugefügt zu werden.“

Die Einführung verläuft weiterhin uneinheitlich, da es Unternehmen an einem klaren Plan zur Operationalisierung der Souveränität mangelt. Zudem sind sich nur 13 % der Führungskräfte „sehr umfassend“ der souveränen KI bewusst, was ein fragmentiertes und uneinheitliches Verständnis des Konzepts in globalen Organisationen offenbart. Das bedeutet, dass Einkäufer oder Entscheidungsträger KI-Investitionsentscheidungen möglicherweise ohne den richtigen Kontext treffen, was die Umsetzung für technische Teams potenziell erschwert.

Um hier Abhilfe zu schaffen, so Cohere, „müssen Unternehmen die Lücke zwischen Bewusstsein und Handeln schließen, indem sie eine strategische Vision und einen Plan entwickeln, um die Eigenverantwortung für ihre KI-Systeme zu erlangen“.

Echte Souveränität kann Cloud-Infrastruktur einschließen, doch das bloße Hosten von Daten in einer bestimmten Region oder einer privaten Cloud macht ein KI-System nicht automatisch souverän

Joëlle Pineau, Chief AI Officer bei Cohere

Über die Compliance hinaus

Während der Begriff „Souveränität“ oft Assoziationen mit strenger Einhaltung staatlicher Vorschriften weckt, verweist Cohere auf seine Zusammenarbeit mit leistungsstarken kommerziellen Kunden wie dem Aston-Martin-F1-Team als Beispiel dafür, wie die Architektur praktischen Mehrwert über den reinen Datenschutz oder standardmäßige Public-Cloud-Bereitstellungen hinaus bietet.

„Echte Souveränität bietet Unternehmen ein unschätzbares Maß an Kontrolle, Anpassungsmöglichkeiten und sicherer Bereitstellung – Ausfallsicherheit ist der grundlegende Vorteil, der unterstreicht, was der Zugriff auf KI über eine externe API nicht bieten kann, doch ihr Wert geht über den bloßen Schutz von Daten hinaus“, sagt Joëlle.

„Eine souveräne Architektur kann Unternehmen dabei helfen, Informationen unabhängig von ihrem Speicherort aufzudecken und zu interpretieren, KI direkt in bestehende Arbeitsabläufe zu integrieren und diese Daten in schnellere, bessere Entscheidungen umzusetzen.

„Die Formel 1 ist eine nützliche Fallstudie, da sie viele der Herausforderungen bündelt, denen Unternehmen täglich gegenüberstehen: riesige Mengen an Telemetrie-, Diagnose- und Simulationsdaten, Spezialistenteams, Entscheidungen unter hohem Druck und null Toleranz gegenüber langsamen oder unsicheren Systemen.

„Das gleiche Prinzip gilt in jeder Unternehmensumgebung, in der es um viel geht. KI schafft den größten Mehrwert, wenn sie nah am Geschehen ist, auf den Kontext des Unternehmens zugeschnitten ist und sicher genug ist, um dort zu arbeiten, wo sich bereits die sensibelsten geistigen Eigentumsrechte und Betriebsdaten befinden.“

Cohere trat im März 2026 als Partner für generative KI dem Formel-1-Team Aston Martin Aramco bei.

Strategische Partner

Auf seiner Website gibt Cohere an, das Vertrauen von Branchenführern zu genießen:

• McKinsey ist ein weltweit tätiges Unternehmensberatungsunternehmen, das Organisationen aus dem privaten, öffentlichen und sozialen Sektor in den Bereichen strategisches Management, operative Leistung, digitale Transformation, Führung und nachhaltiges Unternehmenswachstum auf internationalen Märkten berät.
• Salesforce ist ein globales Cloud-Softwareunternehmen, das sich auf Tools für das Kundenbeziehungsmanagement spezialisiert hat. Es bietet Cloud-Anwendungen mit den Schwerpunkten Vertrieb, Kundenservice, Marketingautomatisierung, Datenanalyse, künstliche Intelligenz und Systemintegration an.
  

Salesforce ist ein wichtiger Geldgeber von Cohere. Bildnachweis: JasonDoiy/Getty Images

• Accenture ist ein multinationales Dienstleistungsunternehmen, das sich auf IT-Dienstleistungen und Unternehmensberatung spezialisiert hat. Es bietet Lösungen in den Bereichen digitale Transformation, Cybersicherheit, Cloud-Computing, Systemintegration, Betriebsmanagement und Outsourcing von Geschäftsprozessen an.
• Oracle ist ein globales Technologieunternehmen, das sich auf Datenbanksoftware, Unternehmensanwendungen und Cloud-Infrastruktur spezialisiert hat. Es entwickelt Softwaresysteme für das Finanzmanagement von Unternehmen, die Lieferkettenplanung, das Personalwesen und den Geschäftsbetrieb.
• Dell Technologies ist ein globales Technologieunternehmen, das PCs, Unternehmensserver, Datenspeichergeräte, Netzwerk-Switches und Hardware-Infrastruktur entwickelt, herstellt und vertreibt. Darüber hinaus bietet es IT-Lösungen für Unternehmen an.