Heim
DeepMind gründet neues Institut zur Bewältigung zentraler Herausforderungen im Bereich der allgemeinen künstlichen Intelligenz (AGI)
Am 16. September haben Google und Google DeepMind das DeepMind Institute ins Leben gerufen, um den interdisziplinären Dialog über allgemeine künstliche Intelligenz (AGI) zu fördern. Dem Vorstand gehören der DeepMind-Mitbegründer Shane Legg, der Google-Manager James Manyika und der DeepMind-Vorstandsvorsitzende Demis Hassabis an, wobei Legg als Chefredakteur fungiert. Die Initiative zielt darauf ab, vielfältige Standpunkte von Google, DeepMind und der globalen Forschungsgemeinschaft zu Herausforderungen im Zusammenhang mit AGI zu präsentieren.

Die ersten vier Veröffentlichungen des Instituts befassen sich mit der Wirtschaftspolitik im Zusammenhang mit AGI, der Transparenz des Modell-Schlussfolgerns, Grundsätzen für menschliches Gedeihen und einem innovativen Bewertungsrahmen für KI. Rohin Shah und Anca Dragan hoben Sicherheitsrisiken hervor, die sich aus dem schrumpfenden „transparenten Fenster“ von Modellen ergeben, und schlugen Lösungen vor, wie die Begrenzung der „unsichtbaren seriellen Tiefe“ oder die Auflage, dass Systeme mit geringer Transparenz eine gleichwertige Kontrollierbarkeit nachweisen müssen.
Hassabis schlug eine von den USA geführte Standardisierungsorganisation für Pionier-KI vor, bei der Entwickler bis zu 30 Tage vor der Veröffentlichung freiwillig Bewertungen einreichen könnten. Mit zunehmender Reife des Systems könnte das Bestehen dieser Tests für den Einsatz von Pioniermodellen in den USA verpflichtend werden. Die Bewertungsstelle wird schließlich unabhängige, nicht öffentliche „vertrauliche“ Tests durchführen, um zu verhindern, dass Modelle bekannte Metriken manipulieren, wobei je nach Risikostufe strengere Maßnahmen angewendet werden.
Diese Entwicklung signalisiert, dass sich die Diskussionen um die Allgemeine Künstliche Intelligenz (AGI) über die Entwicklung von Fähigkeiten hinaus ausweiten und sich nun auf die Transparenz der Schlussfolgerungen, externe Bewertungen und Steuerungsmechanismen konzentrieren.
Verwandter Artikel
Über 1.100 KI-Mitarbeiter drängen die US-Regierung, den Fortschritt zu drosseln; Altman unterstützt diese Forderung selten
In jüngster Zeit unterzeichneten 1.134 Mitarbeiter führender KI-Unternehmen wie OpenAI, Anthropic, Google und Meta gemeinsam einen offenen Brief, in dem sie die US-Regierung aufforderten, die internationale Zusammenarbeit bei der Entwicklung der notw
Der Quartalsgewinn von Samsung Electronics steigt um das 180-Fache: KI-Speicher hält stand, Smartphones und Haushaltsgeräte machen Verluste.
Samsung Electronics hat am 30. Juli seine Finanzergebnisse für das zweite Quartal 2026 vorgestellt. Getrieben von einem Anstieg sowohl des Volumens als auch der Preise für KI-Speicherchips erreichte der Gesamtumsatz 171,5 Billionen südkoreanische Won
Wie man Core Web Vitals für bessere SEO-Rankings behebt
Ist das Cubo AI Sleep Safety Bundle eine kluge Investition? Hier ist, was Sie wissen müssenInhaltsverzeichnis:EinleitungWas ist der Cubo AI Schlafsensor?Warum sichere Schlafpraktiken wichtig sindCubo AI im Vergleich zu Mitbewerbern: Wie schneidet es
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Am 16. September haben Google und Google DeepMind das DeepMind Institute ins Leben gerufen, um den interdisziplinären Dialog über allgemeine künstliche Intelligenz (AGI) zu fördern. Dem Vorstand gehören der DeepMind-Mitbegründer Shane Legg, der Google-Manager James Manyika und der DeepMind-Vorstandsvorsitzende Demis Hassabis an, wobei Legg als Chefredakteur fungiert. Die Initiative zielt darauf ab, vielfältige Standpunkte von Google, DeepMind und der globalen Forschungsgemeinschaft zu Herausforderungen im Zusammenhang mit AGI zu präsentieren.

Die ersten vier Veröffentlichungen des Instituts befassen sich mit der Wirtschaftspolitik im Zusammenhang mit AGI, der Transparenz des Modell-Schlussfolgerns, Grundsätzen für menschliches Gedeihen und einem innovativen Bewertungsrahmen für KI. Rohin Shah und Anca Dragan hoben Sicherheitsrisiken hervor, die sich aus dem schrumpfenden „transparenten Fenster“ von Modellen ergeben, und schlugen Lösungen vor, wie die Begrenzung der „unsichtbaren seriellen Tiefe“ oder die Auflage, dass Systeme mit geringer Transparenz eine gleichwertige Kontrollierbarkeit nachweisen müssen.
Hassabis schlug eine von den USA geführte Standardisierungsorganisation für Pionier-KI vor, bei der Entwickler bis zu 30 Tage vor der Veröffentlichung freiwillig Bewertungen einreichen könnten. Mit zunehmender Reife des Systems könnte das Bestehen dieser Tests für den Einsatz von Pioniermodellen in den USA verpflichtend werden. Die Bewertungsstelle wird schließlich unabhängige, nicht öffentliche „vertrauliche“ Tests durchführen, um zu verhindern, dass Modelle bekannte Metriken manipulieren, wobei je nach Risikostufe strengere Maßnahmen angewendet werden.
Diese Entwicklung signalisiert, dass sich die Diskussionen um die Allgemeine Künstliche Intelligenz (AGI) über die Entwicklung von Fähigkeiten hinaus ausweiten und sich nun auf die Transparenz der Schlussfolgerungen, externe Bewertungen und Steuerungsmechanismen konzentrieren.
Über 1.100 KI-Mitarbeiter drängen die US-Regierung, den Fortschritt zu drosseln; Altman unterstützt diese Forderung selten
In jüngster Zeit unterzeichneten 1.134 Mitarbeiter führender KI-Unternehmen wie OpenAI, Anthropic, Google und Meta gemeinsam einen offenen Brief, in dem sie die US-Regierung aufforderten, die internationale Zusammenarbeit bei der Entwicklung der notw
Der Quartalsgewinn von Samsung Electronics steigt um das 180-Fache: KI-Speicher hält stand, Smartphones und Haushaltsgeräte machen Verluste.
Samsung Electronics hat am 30. Juli seine Finanzergebnisse für das zweite Quartal 2026 vorgestellt. Getrieben von einem Anstieg sowohl des Volumens als auch der Preise für KI-Speicherchips erreichte der Gesamtumsatz 171,5 Billionen südkoreanische Won
Wie man Core Web Vitals für bessere SEO-Rankings behebt
Ist das Cubo AI Sleep Safety Bundle eine kluge Investition? Hier ist, was Sie wissen müssenInhaltsverzeichnis:EinleitungWas ist der Cubo AI Schlafsensor?Warum sichere Schlafpraktiken wichtig sindCubo AI im Vergleich zu Mitbewerbern: Wie schneidet es











