Heim
Über 1.100 KI-Mitarbeiter drängen die US-Regierung, den Fortschritt zu drosseln; Altman unterstützt diese Forderung selten
In jüngster Zeit unterzeichneten 1.134 Mitarbeiter führender KI-Unternehmen wie OpenAI, Anthropic, Google und Meta gemeinsam einen offenen Brief, in dem sie die US-Regierung aufforderten, die internationale Zusammenarbeit bei der Entwicklung der notwendigen Technologien und Governance-Tools zu unterstützen, um die KI-Entwicklung bei Bedarf „bewusst zu dosieren“. Sam Altman, CEO von OpenAI, äußerte sich selten unterstützend zu dieser Initiative.
Die Initiative trägt den Namen „Pacing the Frontier“ (Das Tempo der Grenze bestimmen). Zu den Unterzeichnern gehören Dario Amodei, CEO von Anthropic, Mitbegründer Jack Clark, Jared Kaplan, Chief Scientist Yakub Peharzki und Chief Research Officer Mark Chen von OpenAI, Chief Scientist Shengjia Zhao von Meta, Anca Dragan, Leiterin für KI-Sicherheit und Alignment bei Google DeepMind sowie John Schulman, Chief Scientist bei Thinking Machines, unter anderem.

Das Kernanliegen des offenen Briefes ist die „automatisierte KI-Entwicklung“ – die Fähigkeit von KI-Systemen, eigene KI-Systeme zu entwickeln und zu verbessern, ein Konzept, das in der Branche als „rekursive Selbstverbesserung“ bekannt ist. Anthropic hatte zuvor erklärt, dass seine Claude-Modellserie dieser Schwelle rasch nahekomme. Der Brief stellt fest: „Es ist schwierig, genau vorherzusagen, wie stark dies den KI-Fortschleun vorantreiben wird, aber es besteht tatsächlich das reale Risiko, dass die Entwicklung von KI-Fähigkeiten unser Verständnis oder unsere Kontrolle über diese Systeme schnell überholen könnte.“
OpenAI antwortete auf der Plattform X: „Wir glauben, dass es in der Zukunft einen Punkt geben wird, an dem die Beschleunigung der KI-Entwicklung bei Modellen der Spitzenklasse so schnell sein wird, dass die Welt das Tempo des KI-Fortschritts dosieren muss.“ Anthropic erklärte seinerseits: „Unsere im letzten Monat veröffentlichte Forschung zur rekursiven Selbstverbesserung zeigt, dass wir bestimmte Werkzeuge benötigen, um das Tempo der KI-Entwicklung bewusst zu regulieren und der Gesellschaft Zeit zur Vorbereitung zu geben.“
Altmans Sinneswandel hat besondere Aufmerksamkeit erregt. In der Vergangenheit hatte er es vermieden, Initiativen zu unterzeichnen, die eine Verlangsamung der KI-Entwicklung fordern. Ein ähnlicher offener Brief aus dem Jahr 2023 kritisierte er als „fehlende wesentliche technische Details darüber, in welchen Bereichen genau eine Pause eingelegt werden sollte“. In einer jüngsten Episode des Podcasts „Invest Like the Best“ erklärte er jedoch: „Wir müssen möglicherweise das Tempo der KI-Entwicklung dosieren, um der Gesellschaft genügend Zeit zu geben, sich an diese neuen Fähigkeitsniveaus anzupassen und Schutzmechanismen zu etablieren. Gleichzeitig müssen wir auch Wege finden, dies so zu tun, dass niemand den Eindruck gewinnt, es handele sich um regulatorische Übernahme oder Absprachen zwischen führenden KI-Laboren.“
Derzeit konkurrieren KI-Unternehmen darum, immer leistungsfähigere Systeme zu entwickeln, und die Sorge wächst, dass das Tempo der KI-Entwicklung die Kapazität bestehender Sicherheitsmaßnahmen, Governance-Systeme und Regulierungsmechanismen übersteigen könnte. Dieser gemeinsame Brief zeigt, dass die Angst vor „unkontrollierter Beschleunigung“ innerhalb der KI-Branche vom Rand in den Mainstream gerückt ist.
Verwandter Artikel
Der Quartalsgewinn von Samsung Electronics steigt um das 180-Fache: KI-Speicher hält stand, Smartphones und Haushaltsgeräte machen Verluste.
Samsung Electronics hat am 30. Juli seine Finanzergebnisse für das zweite Quartal 2026 vorgestellt. Getrieben von einem Anstieg sowohl des Volumens als auch der Preise für KI-Speicherchips erreichte der Gesamtumsatz 171,5 Billionen südkoreanische Won
Wie man Core Web Vitals für bessere SEO-Rankings behebt
Ist das Cubo AI Sleep Safety Bundle eine kluge Investition? Hier ist, was Sie wissen müssenInhaltsverzeichnis:EinleitungWas ist der Cubo AI Schlafsensor?Warum sichere Schlafpraktiken wichtig sindCubo AI im Vergleich zu Mitbewerbern: Wie schneidet es
MIIT, drei weitere Behörden veröffentlichen nationale Norm zur Einstufung der KI-Endgeräteintelligenz
Am 8. Mai veröffentlichten das Ministerium für Industrie und Informationstechnologie, die Staatliche Verwaltung für Marktregulierung und das Ministerium für Handel gemeinsam die Serie nationaler Normen „Intelligente Einstufung von KI-Terminals“ (GB/Z
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
In jüngster Zeit unterzeichneten 1.134 Mitarbeiter führender KI-Unternehmen wie OpenAI, Anthropic, Google und Meta gemeinsam einen offenen Brief, in dem sie die US-Regierung aufforderten, die internationale Zusammenarbeit bei der Entwicklung der notwendigen Technologien und Governance-Tools zu unterstützen, um die KI-Entwicklung bei Bedarf „bewusst zu dosieren“. Sam Altman, CEO von OpenAI, äußerte sich selten unterstützend zu dieser Initiative.
Die Initiative trägt den Namen „Pacing the Frontier“ (Das Tempo der Grenze bestimmen). Zu den Unterzeichnern gehören Dario Amodei, CEO von Anthropic, Mitbegründer Jack Clark, Jared Kaplan, Chief Scientist Yakub Peharzki und Chief Research Officer Mark Chen von OpenAI, Chief Scientist Shengjia Zhao von Meta, Anca Dragan, Leiterin für KI-Sicherheit und Alignment bei Google DeepMind sowie John Schulman, Chief Scientist bei Thinking Machines, unter anderem.

Das Kernanliegen des offenen Briefes ist die „automatisierte KI-Entwicklung“ – die Fähigkeit von KI-Systemen, eigene KI-Systeme zu entwickeln und zu verbessern, ein Konzept, das in der Branche als „rekursive Selbstverbesserung“ bekannt ist. Anthropic hatte zuvor erklärt, dass seine Claude-Modellserie dieser Schwelle rasch nahekomme. Der Brief stellt fest: „Es ist schwierig, genau vorherzusagen, wie stark dies den KI-Fortschleun vorantreiben wird, aber es besteht tatsächlich das reale Risiko, dass die Entwicklung von KI-Fähigkeiten unser Verständnis oder unsere Kontrolle über diese Systeme schnell überholen könnte.“
OpenAI antwortete auf der Plattform X: „Wir glauben, dass es in der Zukunft einen Punkt geben wird, an dem die Beschleunigung der KI-Entwicklung bei Modellen der Spitzenklasse so schnell sein wird, dass die Welt das Tempo des KI-Fortschritts dosieren muss.“ Anthropic erklärte seinerseits: „Unsere im letzten Monat veröffentlichte Forschung zur rekursiven Selbstverbesserung zeigt, dass wir bestimmte Werkzeuge benötigen, um das Tempo der KI-Entwicklung bewusst zu regulieren und der Gesellschaft Zeit zur Vorbereitung zu geben.“
Altmans Sinneswandel hat besondere Aufmerksamkeit erregt. In der Vergangenheit hatte er es vermieden, Initiativen zu unterzeichnen, die eine Verlangsamung der KI-Entwicklung fordern. Ein ähnlicher offener Brief aus dem Jahr 2023 kritisierte er als „fehlende wesentliche technische Details darüber, in welchen Bereichen genau eine Pause eingelegt werden sollte“. In einer jüngsten Episode des Podcasts „Invest Like the Best“ erklärte er jedoch: „Wir müssen möglicherweise das Tempo der KI-Entwicklung dosieren, um der Gesellschaft genügend Zeit zu geben, sich an diese neuen Fähigkeitsniveaus anzupassen und Schutzmechanismen zu etablieren. Gleichzeitig müssen wir auch Wege finden, dies so zu tun, dass niemand den Eindruck gewinnt, es handele sich um regulatorische Übernahme oder Absprachen zwischen führenden KI-Laboren.“
Derzeit konkurrieren KI-Unternehmen darum, immer leistungsfähigere Systeme zu entwickeln, und die Sorge wächst, dass das Tempo der KI-Entwicklung die Kapazität bestehender Sicherheitsmaßnahmen, Governance-Systeme und Regulierungsmechanismen übersteigen könnte. Dieser gemeinsame Brief zeigt, dass die Angst vor „unkontrollierter Beschleunigung“ innerhalb der KI-Branche vom Rand in den Mainstream gerückt ist.
Der Quartalsgewinn von Samsung Electronics steigt um das 180-Fache: KI-Speicher hält stand, Smartphones und Haushaltsgeräte machen Verluste.
Samsung Electronics hat am 30. Juli seine Finanzergebnisse für das zweite Quartal 2026 vorgestellt. Getrieben von einem Anstieg sowohl des Volumens als auch der Preise für KI-Speicherchips erreichte der Gesamtumsatz 171,5 Billionen südkoreanische Won
Wie man Core Web Vitals für bessere SEO-Rankings behebt
Ist das Cubo AI Sleep Safety Bundle eine kluge Investition? Hier ist, was Sie wissen müssenInhaltsverzeichnis:EinleitungWas ist der Cubo AI Schlafsensor?Warum sichere Schlafpraktiken wichtig sindCubo AI im Vergleich zu Mitbewerbern: Wie schneidet es
MIIT, drei weitere Behörden veröffentlichen nationale Norm zur Einstufung der KI-Endgeräteintelligenz
Am 8. Mai veröffentlichten das Ministerium für Industrie und Informationstechnologie, die Staatliche Verwaltung für Marktregulierung und das Ministerium für Handel gemeinsam die Serie nationaler Normen „Intelligente Einstufung von KI-Terminals“ (GB/Z











