HeimGoogle DeepMind gründet Institut, um die Debatte über AGI zu erweitern
Google und Google DeepMind haben am Mittwoch das DeepMind-Institut gegründet, um den Dialog über allgemeine künstliche Intelligenz (AGI) zu fördern. Das Institut wird von DeepMind-Mitbegründer Shane Legg, Google-Manager James Manyika und dem Vorsitzenden von Google DeepMind, Demis Hassabis, geleitet, wobei Legg als geschäftsführender Redakteur fungiert.
Diese neue Initiative zielt darauf ab, unterschiedliche Perspektiven innerhalb von Google, DeepMind und der globalen Forschungsgemeinschaft zur AGI hervorzuheben. In der Ankündigung heißt es, dass die Teilnehmer „nicht immer übereinstimmen“ und ihre Standpunkte wahrscheinlich überarbeiten werden, wenn neue Daten an dieser sich schnell entwickelnden Frontlinie auftauchen.
Die erste Sammlung enthält vier Aufsätze, die sich mit Schlüsselthemen befassen: Wirtschaftsstrategien zum Umgang mit potenziellen AGI-Störungen, die Aufrechterhaltung einer für Menschen lesbaren Modellbegründung, Prinzipien für das menschliche Wohlergehen und ein Rahmenwerk zur Bewertung von KI-Modellen an der Frontlinie.
DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan argumentieren in einem Aufsatz, dass die abnehmende Transparenz von KI-Systemen – die Fähigkeit, die schrittweise Begründung zu überprüfen – nicht unvermeidbar ist. Da neuere Architekturen die Überwachung erschweren, schlagen sie vor, dass Entwickler und Aufsichtsbehörden Sicherheitsabwägungen direkt angehen müssen. Dies könnte die Einschränkung der „undurchsichtigen seriellen Tiefe“ oder den Nachweis beinhalten, dass weniger transparente Systeme ebenso überwachbar bleiben.
In einem anderen Aufsatz schlägt Demis Hassabis ein von den USA geführtes Gremium für KI-Standards an der Frontlinie vor, um fortschrittliche Modelle zu bewerten. Nach diesem Vorschlag würden Entwickler Modelle zunächst freiwillig zur Überprüfung einreichen, bis zu 30 Tage vor dem Start. Sobald das Bewertungssystem als wirksam erwiesen ist, könnte das Bestehen dieser Tests zur Pflicht für den Einsatz von KI-Modellen an der Frontlinie in den Vereinigten Staaten werden.
Anfangs würde dieses Gremium Bewertungen in Absprache mit KI-Unternehmen entwerfen, später jedoch unabhängige, nicht veröffentlichte Bewertungen – sogenannte „held-out“-Tests – erstellen, um zu verhindern, dass Labore Modelle auf bekannte Benchmarks optimieren. Hassabis deutete an, dass der Rahmen „verschärft werden könnte, wenn die Situation es erfordert“, was möglicherweise eine koordinierte Verlangsamung unter den Entwicklern von KI-Modellen an der Frontlinie einschließen würde.
Diese Aufsätze erscheinen, während sich die sicherheitsbezogenen Diskussionen in der Branche von allgemeinen Bedenken hin zu konkreten Vorschlägen für Offenlegung, externe Prüfung und koordinierte Verlangsamung verschiebt, falls Schutzmaßnahmen hinterherhinken. Dieser Schwung hat sich diese Woche verstärkt, als Branchenführer den Aufruf von Anthropic-CEO Dario Amodei unterstützten, die Entwicklung von KI-Modellen an der Frontlinie „zu takten“.
Verwandter Artikel
Anthropic-Leak zu „Sonnet 5.5“: 2 Millionen Token stellen DeepSeek vor die Herausforderung, seine Kosteneffizienz zurückzugewinnen
Anthropic hat sein neuestes Sonnet-5.5-Modell vorgestellt, das intern unter dem Namen „Fennec“ (nach dem Wüstenfuchs) bekannt ist und voraussichtlich im nächsten Monat veröffentlicht wird. Durchgesick
Chrome startet eine Skill-Bibliothek für Gemini: Prompts mit einem Klick wiederverwenden – Schluss mit sich wiederholenden Eingaben
Google hat ein Update für die Desktop-Version von Chrome veröffentlicht, mit dem eine neue „Skills-Bibliothek“ für die integrierte Gemini-Funktion eingeführt wird. Diese Erweiterung ermöglicht es Nutz
Der CEO von Anthropic drängt auf KI-Regeln nach dem Vorbild des Bankwesens – Experten warnen davor, gleichzeitig Spieler und Schiedsrichter zu sein
Laut CNBC schlug Dario Amodei, CEO von Anthropic, vor, langfristig unabhängige Sicherheitsprüfer von Drittanbietern in führende KI-Unternehmen einzubinden und ihnen nahezu uneingeschränkten Zugang zu
Empfehlungen zu verwandten Spezialthemen
Soziale Medien
Die besten KI-Generatoren für Bildunterschriften: Plattformspezifische Social-Media-Beiträge schnell verfassen
Seite mit den besten KI-Bildunterschriften-Generatoren 2026! XIX.AI hat eine Liste der besten Tools zusammengestellt, die Sie unbedingt ausprobieren sollten, um plattformspezifische Social-Media-Beiträge schnell zu verfassen. Diese Tools durchlaufen strenge Praxistests und bieten einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie klare Ranglisten, damit Sie die beste Option finden, die Ihre Produktivität steigert und Ihren KI-Vorteil voll ausschöpft. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Gesundheit Wellness
Die besten KI-basierten Schlafcoaching-Tools für Schichtarbeiter, zur Erholung nach Jetlag und für bessere Routinen
Die besten KI-Tools für Schlafcoaching im Jahr 2026: Für Schichtarbeiter, zur Bewältigung von Jetlag und für bessere Routinen! XIX.AI hat eine Liste der besten Tools zusammengestellt, die bahnbrechend sind und in der Praxis getestet wurden, um präzise Anleitungen zu liefern. Hier finden Sie detaillierte Vergleichsinformationen zu kostenlosen und kostenpflichtigen Angeboten und erfahren, wie diese unverzichtbaren Lösungen dazu beitragen, die Schlafqualität zu verbessern, die Erholung vom Jetlag zu beschleunigen und gesündere Routinen zu etablieren. Entdecken Sie jetzt das perfekte Tool für sich!
7 Tools
xix.ai
Code
ChatGPT-Debuggingtools für Python-Fehler, API-Protokolle und Stack-Trace-Triage
2026 Neueste Best ChatGPT-Debugging-Tools für Python-Fehler, API-Logs und Stack-Trace-Triage finden Sie hier auf XIX.AI. Diese kuratierte Liste der am besten bewerteten Lösungen bietet einen kostenlosen vs. kostenpflichtigen Vergleich, Praxistests und detaillierte Rankings, um Ihnen zu helfen, das leistungsfähigste Tool zu finden, das Ihre Produktivität erheblich steigern und Ihnen helfen kann, komplexe technische Probleme schneller zu lösen. Entdecken Sie jetzt Ihre perfekte Lösung!
9 Tools
xix.ai
Text-zu-Sprache
KI-Stimmtools für Produkt-Demonstrationsvideos
2026 Neueste Besten Top-bewerteten KI-Stimmtools für Produkt-Demonstration-Videos sind jetzt auf XIX.AI verfügbar! Diese kuratierte Liste bietet leistungsstarke, bahnbrechende Optionen, die Ihnen helfen, professionelles Audiocontent schnell zu erstellen und Ihre Demonstrations-Effizienz erheblich zu steigern. Wir führen praxisnahe Tests durch und bieten einen kostenlosen vs. kostenpflichtigen Vergleich sowie wöchentlich aktualisierte Rankings, um Ihnen zu helfen, die perfekte Lösung zu finden. Entdecken Sie jetzt, um Ihren KI-Vorteil freizuschalten!
10 Tools
xix.ai
Geschäft
KI-Tools für Geschäftspläne zur Validierung von Start-ups
Die besten KI-Tools für Geschäftspläne zur Startup-Validierung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die in der Praxis getestet wurden und präzise Ergebnisse liefern. Hier finden Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und leicht verständliche Einblicke, die Ihnen helfen, die perfekte Lösung zu finden und die Erfolgsquote Ihres Start-ups zu steigern. Entdecken Sie jetzt die Möglichkeiten und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
Chatbot
KI-Chat-Apps für Rollenspiel und Konversationspraxis
2026 Neueste und beste KI-Chat-Apps für Rollenspiele und Konversationspraxis! XIX.AI erstellt eine hochbewertete Liste leistungsstarker, unbedingt auszuprobierender Tools, die strenge Praxistests durchlaufen, um außergewöhnliche Ergebnisse zu liefern. Sie finden detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen, umfassende Ranglisten sowie Einblicke darin, wie diese Apps Ihre Sprachkenntnisse und Ihr Kommunikationsvertrauen effektiv steigern können. Entdecken Sie jetzt Ihr perfektes Übungstool!
10 Tools
xix.ai
Kommentare (0)
Google und Google DeepMind haben am Mittwoch das DeepMind-Institut gegründet, um den Dialog über allgemeine künstliche Intelligenz (AGI) zu fördern. Das Institut wird von DeepMind-Mitbegründer Shane Legg, Google-Manager James Manyika und dem Vorsitzenden von Google DeepMind, Demis Hassabis, geleitet, wobei Legg als geschäftsführender Redakteur fungiert.
Diese neue Initiative zielt darauf ab, unterschiedliche Perspektiven innerhalb von Google, DeepMind und der globalen Forschungsgemeinschaft zur AGI hervorzuheben. In der Ankündigung heißt es, dass die Teilnehmer „nicht immer übereinstimmen“ und ihre Standpunkte wahrscheinlich überarbeiten werden, wenn neue Daten an dieser sich schnell entwickelnden Frontlinie auftauchen.
Die erste Sammlung enthält vier Aufsätze, die sich mit Schlüsselthemen befassen: Wirtschaftsstrategien zum Umgang mit potenziellen AGI-Störungen, die Aufrechterhaltung einer für Menschen lesbaren Modellbegründung, Prinzipien für das menschliche Wohlergehen und ein Rahmenwerk zur Bewertung von KI-Modellen an der Frontlinie.
DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan argumentieren in einem Aufsatz, dass die abnehmende Transparenz von KI-Systemen – die Fähigkeit, die schrittweise Begründung zu überprüfen – nicht unvermeidbar ist. Da neuere Architekturen die Überwachung erschweren, schlagen sie vor, dass Entwickler und Aufsichtsbehörden Sicherheitsabwägungen direkt angehen müssen. Dies könnte die Einschränkung der „undurchsichtigen seriellen Tiefe“ oder den Nachweis beinhalten, dass weniger transparente Systeme ebenso überwachbar bleiben.
In einem anderen Aufsatz schlägt Demis Hassabis ein von den USA geführtes Gremium für KI-Standards an der Frontlinie vor, um fortschrittliche Modelle zu bewerten. Nach diesem Vorschlag würden Entwickler Modelle zunächst freiwillig zur Überprüfung einreichen, bis zu 30 Tage vor dem Start. Sobald das Bewertungssystem als wirksam erwiesen ist, könnte das Bestehen dieser Tests zur Pflicht für den Einsatz von KI-Modellen an der Frontlinie in den Vereinigten Staaten werden.
Anfangs würde dieses Gremium Bewertungen in Absprache mit KI-Unternehmen entwerfen, später jedoch unabhängige, nicht veröffentlichte Bewertungen – sogenannte „held-out“-Tests – erstellen, um zu verhindern, dass Labore Modelle auf bekannte Benchmarks optimieren. Hassabis deutete an, dass der Rahmen „verschärft werden könnte, wenn die Situation es erfordert“, was möglicherweise eine koordinierte Verlangsamung unter den Entwicklern von KI-Modellen an der Frontlinie einschließen würde.
Diese Aufsätze erscheinen, während sich die sicherheitsbezogenen Diskussionen in der Branche von allgemeinen Bedenken hin zu konkreten Vorschlägen für Offenlegung, externe Prüfung und koordinierte Verlangsamung verschiebt, falls Schutzmaßnahmen hinterherhinken. Dieser Schwung hat sich diese Woche verstärkt, als Branchenführer den Aufruf von Anthropic-CEO Dario Amodei unterstützten, die Entwicklung von KI-Modellen an der Frontlinie „zu takten“.
Anthropic-Leak zu „Sonnet 5.5“: 2 Millionen Token stellen DeepSeek vor die Herausforderung, seine Kosteneffizienz zurückzugewinnen
Anthropic hat sein neuestes Sonnet-5.5-Modell vorgestellt, das intern unter dem Namen „Fennec“ (nach dem Wüstenfuchs) bekannt ist und voraussichtlich im nächsten Monat veröffentlicht wird. Durchgesick
Chrome startet eine Skill-Bibliothek für Gemini: Prompts mit einem Klick wiederverwenden – Schluss mit sich wiederholenden Eingaben
Google hat ein Update für die Desktop-Version von Chrome veröffentlicht, mit dem eine neue „Skills-Bibliothek“ für die integrierte Gemini-Funktion eingeführt wird. Diese Erweiterung ermöglicht es Nutz
Der CEO von Anthropic drängt auf KI-Regeln nach dem Vorbild des Bankwesens – Experten warnen davor, gleichzeitig Spieler und Schiedsrichter zu sein
Laut CNBC schlug Dario Amodei, CEO von Anthropic, vor, langfristig unabhängige Sicherheitsprüfer von Drittanbietern in führende KI-Unternehmen einzubinden und ihnen nahezu uneingeschränkten Zugang zu
Seite mit den besten KI-Bildunterschriften-Generatoren 2026! XIX.AI hat eine Liste der besten Tools zusammengestellt, die Sie unbedingt ausprobieren sollten, um plattformspezifische Social-Media-Beiträge schnell zu verfassen. Diese Tools durchlaufen strenge Praxistests und bieten einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie klare Ranglisten, damit Sie die beste Option finden, die Ihre Produktivität steigert und Ihren KI-Vorteil voll ausschöpft. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Die besten KI-Tools für Schlafcoaching im Jahr 2026: Für Schichtarbeiter, zur Bewältigung von Jetlag und für bessere Routinen! XIX.AI hat eine Liste der besten Tools zusammengestellt, die bahnbrechend sind und in der Praxis getestet wurden, um präzise Anleitungen zu liefern. Hier finden Sie detaillierte Vergleichsinformationen zu kostenlosen und kostenpflichtigen Angeboten und erfahren, wie diese unverzichtbaren Lösungen dazu beitragen, die Schlafqualität zu verbessern, die Erholung vom Jetlag zu beschleunigen und gesündere Routinen zu etablieren. Entdecken Sie jetzt das perfekte Tool für sich!
7 Tools
xix.ai
2026 Neueste Best ChatGPT-Debugging-Tools für Python-Fehler, API-Logs und Stack-Trace-Triage finden Sie hier auf XIX.AI. Diese kuratierte Liste der am besten bewerteten Lösungen bietet einen kostenlosen vs. kostenpflichtigen Vergleich, Praxistests und detaillierte Rankings, um Ihnen zu helfen, das leistungsfähigste Tool zu finden, das Ihre Produktivität erheblich steigern und Ihnen helfen kann, komplexe technische Probleme schneller zu lösen. Entdecken Sie jetzt Ihre perfekte Lösung!
9 Tools
xix.ai
2026 Neueste Besten Top-bewerteten KI-Stimmtools für Produkt-Demonstration-Videos sind jetzt auf XIX.AI verfügbar! Diese kuratierte Liste bietet leistungsstarke, bahnbrechende Optionen, die Ihnen helfen, professionelles Audiocontent schnell zu erstellen und Ihre Demonstrations-Effizienz erheblich zu steigern. Wir führen praxisnahe Tests durch und bieten einen kostenlosen vs. kostenpflichtigen Vergleich sowie wöchentlich aktualisierte Rankings, um Ihnen zu helfen, die perfekte Lösung zu finden. Entdecken Sie jetzt, um Ihren KI-Vorteil freizuschalten!
10 Tools
xix.ai
Die besten KI-Tools für Geschäftspläne zur Startup-Validierung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die in der Praxis getestet wurden und präzise Ergebnisse liefern. Hier finden Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und leicht verständliche Einblicke, die Ihnen helfen, die perfekte Lösung zu finden und die Erfolgsquote Ihres Start-ups zu steigern. Entdecken Sie jetzt die Möglichkeiten und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
2026 Neueste und beste KI-Chat-Apps für Rollenspiele und Konversationspraxis! XIX.AI erstellt eine hochbewertete Liste leistungsstarker, unbedingt auszuprobierender Tools, die strenge Praxistests durchlaufen, um außergewöhnliche Ergebnisse zu liefern. Sie finden detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen, umfassende Ranglisten sowie Einblicke darin, wie diese Apps Ihre Sprachkenntnisse und Ihr Kommunikationsvertrauen effektiv steigern können. Entdecken Sie jetzt Ihr perfektes Übungstool!
10 Tools
xix.ai
