DeepMind-CEO drängt auf von den USA geleitete Tests von KI-Modellen

Demis Hassabis, Mitbegründer und CEO von Google DeepMind. Bildnachweis: Demis Hassabis/LinkedIn

Demis Hassabis, CEO von Google DeepMind, weist auf die Gefahren der allgemeinen künstlichen Intelligenz hin und plädiert für einen von den USA geführten Regulierungsrahmen

Demis Hassabis, CEO von Google DeepMind, hat die Einrichtung einer von den USA geführten Regulierungsbehörde vorgeschlagen, die bahnbrechende KI-Modelle bewerten soll. Er betonte die dringende Notwendigkeit, Risiken zu mindern – darunter auch solche im Zusammenhang mit nuklearen und biologischen Bedrohungen –, da sich die Menschheit der allgemeinen künstlichen Intelligenz (AGI) nähert.

Demis Hassabis ist Nobelpreisträger und Mitbegründer von Google DeepMind. Er teilte sich den Nobelpreis für Chemie mit seinem Kollegen John Jumper, der kürzlich seinen Wechsel zu Anthropic bekanntgab. Demis hat am University College London in kognitiver Neurowissenschaft promoviert.

Während er ernsthafte Warnungen vor den Gefahren der KI aussprach, zeigte er sich hinsichtlich ihres Potenzials optimistisch: „Wir könnten sogar einen Punkt erreichen, an dem Ressourcen nicht mehr der begrenzende Faktor für den menschlichen Fortschritt sind, was zu einer erstaunlichen neuen Ära des Überflusses führen würde“, erklärte er und argumentierte, dass KI dazu beitragen werde, einige der drängendsten Herausforderungen der Menschheit zu lösen.

Zentrale Bedenken hinsichtlich AGI

Demis wies darauf hin, dass führende KI-Unternehmen derzeit in einen intensiven, vielschichtigen kommerziellen und geopolitischen Wettlauf verwickelt sind. An diesem Wettbewerb ist sein eigenes Unternehmen Google DeepMind neben Konkurrenten wie OpenAI, Anthropic und DeepSeek beteiligt.

„Wir haben bereits gesehen, welche Herausforderungen bahnbrechende Modelle für die Cybersicherheit darstellen, und andere Bedrohungen, darunter nukleare und biologische Risiken, könnten bald auftreten, wenn sich die Fähigkeiten weiter verbessern“, schrieb Demis in seinem Substack-Blog.

Demis fügte hinzu: „Wir müssen dieses kostbare Zeitfenster nutzen, bevor die AGI Einzug hält, um diese Technologie zum Wohle der gesamten Menschheit zu gestalten.“

Er hob zudem potenzielle Risiken aus Bereichen hervor, die derzeit noch unbekannt sind: „In Zukunft werden wir robuste Sicherheitsvorkehrungen benötigen, um die Kontrolle über zunehmend eigenständige, sich rekursiv selbst verbessernde Systeme zu behalten – und unbekannte Probleme anzugehen, die erst im Laufe der Zeit deutlicher werden.“

Diese Warnung folgt auf eine kürzlich erlassene Anweisung der US-Regierung, in der unter Berufung auf nationale Sicherheitsbedenken der gesamte ausländische Zugriff auf die Modelle „Fable 5“ und „Mythos 5“ von Anthropic ausgesetzt wurde – eine Einschränkung, die Berichten zufolge inzwischen wieder aufgehoben wurde.

Eine künstlerische Darstellung von KI. Dieses Bild veranschaulicht, wie KI genutzt werden kann, um das Gebiet des Quantencomputings voranzubringen. Bildnachweis: Google DeepMind/Unsplash

Demis’ Ansichten zur AGI werden von anderen Experten und Thinktanks geteilt. Das Center for International Relations and Sustainable Development warnte in einem Artikel mit dem Titel „Why AGI Should be the World’s Top Priority“, dass die Menschheit ohne nationale und internationale Regulierung Gefahr läuft, die Kontrolle über eine nicht-biologische Intelligenz zu verlieren, die jenseits des menschlichen Verständnisses, Bewusstseins und der menschlichen Kontrolle liegt.

Insbesondere das „Bulletin of the Atomic Scientists“, das im Januar 2026 die Weltuntergangs-Uhr auf 85 Sekunden vor Mitternacht stellte – so nah wie nie zuvor in seiner Geschichte –, forderte ebenfalls dringende Maßnahmen zur Festlegung internationaler Richtlinien für den Einsatz von KI.

Demis Hassabis, CEO und Mitbegründer von Google DeepMind (links), mit John Jumper, ehemaliger Vizepräsident von Google DeepMind (rechts) | Bildnachweis: Jon Kopaloff / Getty Images

„Wir müssen dieses kostbare Zeitfenster nutzen, bevor die AGI Einzug hält, um diese Technologie zum Wohle der gesamten Menschheit zu gestalten.“ Demis Hassabis, Mitbegründer und CEO von Google DeepMind

Vorschlag für eine von den USA angeführte Regulierung

Demis argumentierte, dass die USA angesichts ihrer wirtschaftlichen und technischen Stellung gut aufgestellt seien, den ersten Schritt zur Entwicklung eines Rahmens zu unternehmen, der einen dynamischen, anpassungsfähigen und strengen Ansatz für die Prüfung von Pioniermodellen verfolgt.

Demis’ Vorschlag ist detailliert und konkret. „Es könnte eine neue Normungsstelle nach dem Vorbild einer vom Bund beaufsichtigten öffentlich-privaten Partnerschaft oder einer Selbstregulierungsorganisation eingerichtet werden, ähnlich wie die Financial Industry Regulatory Authority.

„Die Normungsstelle wäre dafür zuständig, Bewertungsprotokolle zu entwickeln und in Zusammenarbeit mit den zuständigen Bundesbehörden sowie den US-National-Labs Tests in Bereichen durchzuführen, die für die nationale Sicherheit relevant sind.“

„Zunächst würden Frontier-Labore ihre Modelle bis zu 30 Tage vor der Veröffentlichung freiwillig dem Normungsgremium zur Überprüfung zur Verfügung stellen. Sobald sich das Bewertungsprotokoll als wirksam und robust erwiesen hat, könnte rasch eine Formalisierung folgen, was bedeutet, dass Frontier-Modelle dieses Verfahren bestehen müssten, um auf dem US-Markt eingesetzt werden zu dürfen.“

Demis fügte hinzu, dass diese von den USA initiierte Initiative eine solide Grundlage für die Schaffung gemeinsamer internationaler Standards für Pionier-KI bilden würde.

Nik Kairinos, CEO und Mitbegründer von RAIDS AI, kommentierte die Entwicklung wie folgt: „Eine globale KI-Aufsichtsbehörde darf jedoch nicht von der Agenda einer einzelnen Nation geleitet werden.“

Nik Kairinos, CEO und Mitbegründer von RAIDS AI. Bildnachweis: Nik Kairinos/LinkedIn

„KI kennt keine Grenzen, und das sollten auch die Regeln nicht, die zu ihrer Regulierung geschaffen werden. Ein multinationaler Ansatz ist unerlässlich, um sicherzustellen, dass KI-Vorschriften das notwendige Vertrauen, die Zusammenarbeit und die Akzeptanz erreichen, um international zu funktionieren.“

Aktuelle Risiken durch „Frontier“-Modelle

Demis’ Warnung folgt auf die Veröffentlichung eines Berichts von Anthropic mit dem Titel „Agentic Misalignment in Summer 2026“, in dem Beobachtungen zu Fehlern bei Alignment-Modellen in Simulationen mit hohen Risiken detailliert beschrieben werden. Der Bericht stützte sich auf Pioniermodelle von Google DeepMind, OpenAI, dem chinesischen KI-Unternehmen DeepSeek sowie auf Anthropics eigene Modelle.

Zu den aufgeführten Problemen der Fehlausrichtung zählen Modelle, die über die Anweisungen der Nutzer hinaus ihre eigenen Motive verfolgen, sowie das, was Anthropic als „schädliche Compliance“ bezeichnet – dabei wird die Anfrage des Nutzers zwar befolgt, führt jedoch zu Schaden.

Zu den von Anthropic angeführten Problemen gehört verdeckte Sabotage, ein Fehler im Zusammenhang mit agentischer Fehlausrichtung, bei dem Modelle heimlich in den Code eingreifen, um die Absicht des Nutzers zu untergraben. Anthropic stellte außerdem fest, dass einige Modelle Nutzer bei Aktivitäten unterstützen würden, die an Wirtschaftskriminalität erinnern.

Zu den weiteren Risiken, die von den jüngsten Pioniermodellen ausgehen, gehören das Anleiten menschlicher Stellvertreter zum Whistleblowing – wobei Modelle vertrauliche Sicherheitsinformationen nach außen weitergeben oder Menschen dazu veranlassen –, sowie motivierte Fehlkennzeichnungen.

Anthropic erklärte in seinem Bericht auf dem „Alignment Science Blog“, dass der Zweck dieser Fallstudien darin bestehe, Entwicklern und Evaluatoren dabei zu helfen, ähnliche Fehler zu messen und gezielte Sicherheitsvorkehrungen zu entwickeln.