Heim
Anthropic, OpenAI und Google führen geheime Gespräche zur Gründung einer Körperschaft für KI-Sicherheitsstandards
Laut Branchenquellen hatten sich Anthropic, OpenAI und Google bereits vor dem Aufruf von Anthropic-CEO Dario Amodei am vergangenen Samstag an KI-Unternehmen zur Zusammenarbeit bei technischen Tests und Audits auf eine Diskussion zur Gründung eines Gremiums für KI-Industriestandards eingelassen.
Insider berichten, dass seit Juli Vertreter dieser drei Unternehmen auf einer Ebene unterhalb der CEO-Ebene eine Arbeitsgruppe gebildet haben, die sich regelmäßig trifft. Anfang dieser Woche erklärte OpenAI-CEO Sam Altman in einer All-Hands-Meeting, er unterstütze die Schaffung einer unabhängigen KI-Test- und Auditinstitution und argumentierte, dass große Labors solche Standards ohne Beteiligung der US-Regierung etablieren müssten. Obwohl er ursprünglich eine staatliche Unterstützung bevorzugte, gibt es derzeit keine ausreichende Branchenübereinstimmung, da einige Unternehmen der Initiative widersprechen.
Debatte über drei Regulierungsmodelle: FAA, FINRA oder Selbstregulierung
Am vergangenen Samstag veröffentlichte Amodei einen Blogbeitrag mit dem Titel „Wir müssen das Tempo der Fronttier-Entwicklung verlangsamen“, in dem er eine Verlangsamung der KI-Fortschritte und die Schaffung eines unabhängigen Überwachungsmechanismus forderte, wobei die Selbstregulierung der Branche ein Kernbestandteil ist. Er schlug vor, dass Unternehmen, während Regierungen KI-Vorschriften ausarbeiten, zunächst freiwillige Sicherheitsstandards übernehmen sollten, wobei die Regierung den Dialog zwischen den Branchen möglicherweise leiten oder vermitteln könnte. Er forderte führende globale Unternehmen auf, externen Bewertern wie METR Zugang zu Technologien zu gewähren, die denen interner Mitarbeiter entsprechen, und versprach, dass Anthropic dies als Erstes tun würde. Darüber hinaus plädierte er für begrenzte Kartellausnahmen, um eine sichere Zusammenarbeit zu erleichtern.
Demis Hassabis, der kürzlich als CEO von Google DeepMind zurückgetreten ist, bezeichnete den Vorschlag als einen Schritt in die richtige Richtung, merkte jedoch an, dass bestimmte Details „noch verfeinert werden müssen“. Im Juli hatte er die Schaffung einer KI-Selbstregulierungsorganisation nach dem Vorbild der US-Finanzmarktaufsichtsbehörde (FINRA) vorgeschlagen. Elon Musk, CEO von SpaceX, äußerte ebenfalls seine Unterstützung. Laut einem früheren Bericht von The Information verteilte das Weiße Haus einen Entwurf einer Exekutivverordnung, der diese Regulierungsbehörde vorschlug, scheiterte jedoch bis zum Spätsommer daran, ausreichende staatliche Unterstützung zu erhalten, was damit verbundene Bemühungen stoppte. David Sacks, der ehemalige KI-Direktor des Weißen Hauses, hat die Einrichtung einer ähnlichen Institution wie die FINRA offen abgelehnt.
Gegenwind: Kritiker bezeichnen es als „Design eines Kartells“
Der Vorschlag stieß in der Branche auf erhebliche Kritik. Aiden Gomez, CEO von Cohere, äußerte Bedenken, dass große KI-Unternehmen gemeinsam Regeln festlegen könnten, um kleinere Wettbewerber einzuschränken, und erklärte: „Diese Idee klingt genau wie das Design eines Kartells.“ Sacks hinterfragte, ob die Verlangsamung der Entwicklung rein altruistisch sei, und argumentierte, dass Produkthaftungsrisiken bereits wirtschaftliche Anreize bieten, um Schaden zu verhindern.
Laut Insiderberichten finden weiterhin Treffen der Arbeitsgruppe zwischen den drei Unternehmen bezüglich dieser branchengeführten Standardisierungsorganisation statt, wobei jüngste Sitzungen bereits letzte Woche stattfanden. Die Position von Meta bleibt unklar; ihr Chief AI Officer, Alexander Wang, postete auf X, dass „Alignment die Grundlage für den Aufbau einer persönlichen Superintelligenz für alle Menschen ist“, ohne Amodeis umfassenderen Vorschlag explizit zu unterstützen oder abzulehnen.
Verwandter Artikel
OpenAI startet Task Force zur Untersuchung ungewöhnlicher Codex-Nutzung
OpenAI hat ein dediziertes Untersuchungsteam eingesetzt, nachdem Nutzerberichte über unregelmäßige Codex-Kontingentnutzung vorlagen. Bezahlte ChatGPT-Abonnenten berichten von einem starken Rückgang ihrer wöchentlichen Kontingente, wobei die Kontostän
Societe Generale setzt auf KI, um die Kosten um bis zu 600 Millionen Euro zu senken
Bloomberg berichtet, dass die Société Générale SA mit der wachsenden Rolle der künstlichen Intelligenz rechnet, was die Kostenreduzierungsinitiativen erheblich vorantreiben wird.Die in Paris ansässige Institution schätzt das derzeitige Einsparungspo
Wie man kostenlose KI-Sprechavatar erstellt
Master Roblox Avatar Customization: A Guide Inspired by Karl JacobsEinleitungOptimierung Ihres AvatarsNavigation im Avatar-EditorEntdecken beliebter LooksAnpassen Ihres CharaktersSuch- und FiltertoolsNutzung der SuchfunktionFilterung nach Beliebtheit
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Laut Branchenquellen hatten sich Anthropic, OpenAI und Google bereits vor dem Aufruf von Anthropic-CEO Dario Amodei am vergangenen Samstag an KI-Unternehmen zur Zusammenarbeit bei technischen Tests und Audits auf eine Diskussion zur Gründung eines Gremiums für KI-Industriestandards eingelassen.
Insider berichten, dass seit Juli Vertreter dieser drei Unternehmen auf einer Ebene unterhalb der CEO-Ebene eine Arbeitsgruppe gebildet haben, die sich regelmäßig trifft. Anfang dieser Woche erklärte OpenAI-CEO Sam Altman in einer All-Hands-Meeting, er unterstütze die Schaffung einer unabhängigen KI-Test- und Auditinstitution und argumentierte, dass große Labors solche Standards ohne Beteiligung der US-Regierung etablieren müssten. Obwohl er ursprünglich eine staatliche Unterstützung bevorzugte, gibt es derzeit keine ausreichende Branchenübereinstimmung, da einige Unternehmen der Initiative widersprechen.
Debatte über drei Regulierungsmodelle: FAA, FINRA oder Selbstregulierung
Am vergangenen Samstag veröffentlichte Amodei einen Blogbeitrag mit dem Titel „Wir müssen das Tempo der Fronttier-Entwicklung verlangsamen“, in dem er eine Verlangsamung der KI-Fortschritte und die Schaffung eines unabhängigen Überwachungsmechanismus forderte, wobei die Selbstregulierung der Branche ein Kernbestandteil ist. Er schlug vor, dass Unternehmen, während Regierungen KI-Vorschriften ausarbeiten, zunächst freiwillige Sicherheitsstandards übernehmen sollten, wobei die Regierung den Dialog zwischen den Branchen möglicherweise leiten oder vermitteln könnte. Er forderte führende globale Unternehmen auf, externen Bewertern wie METR Zugang zu Technologien zu gewähren, die denen interner Mitarbeiter entsprechen, und versprach, dass Anthropic dies als Erstes tun würde. Darüber hinaus plädierte er für begrenzte Kartellausnahmen, um eine sichere Zusammenarbeit zu erleichtern.
Demis Hassabis, der kürzlich als CEO von Google DeepMind zurückgetreten ist, bezeichnete den Vorschlag als einen Schritt in die richtige Richtung, merkte jedoch an, dass bestimmte Details „noch verfeinert werden müssen“. Im Juli hatte er die Schaffung einer KI-Selbstregulierungsorganisation nach dem Vorbild der US-Finanzmarktaufsichtsbehörde (FINRA) vorgeschlagen. Elon Musk, CEO von SpaceX, äußerte ebenfalls seine Unterstützung. Laut einem früheren Bericht von The Information verteilte das Weiße Haus einen Entwurf einer Exekutivverordnung, der diese Regulierungsbehörde vorschlug, scheiterte jedoch bis zum Spätsommer daran, ausreichende staatliche Unterstützung zu erhalten, was damit verbundene Bemühungen stoppte. David Sacks, der ehemalige KI-Direktor des Weißen Hauses, hat die Einrichtung einer ähnlichen Institution wie die FINRA offen abgelehnt.
Gegenwind: Kritiker bezeichnen es als „Design eines Kartells“
Der Vorschlag stieß in der Branche auf erhebliche Kritik. Aiden Gomez, CEO von Cohere, äußerte Bedenken, dass große KI-Unternehmen gemeinsam Regeln festlegen könnten, um kleinere Wettbewerber einzuschränken, und erklärte: „Diese Idee klingt genau wie das Design eines Kartells.“ Sacks hinterfragte, ob die Verlangsamung der Entwicklung rein altruistisch sei, und argumentierte, dass Produkthaftungsrisiken bereits wirtschaftliche Anreize bieten, um Schaden zu verhindern.
Laut Insiderberichten finden weiterhin Treffen der Arbeitsgruppe zwischen den drei Unternehmen bezüglich dieser branchengeführten Standardisierungsorganisation statt, wobei jüngste Sitzungen bereits letzte Woche stattfanden. Die Position von Meta bleibt unklar; ihr Chief AI Officer, Alexander Wang, postete auf X, dass „Alignment die Grundlage für den Aufbau einer persönlichen Superintelligenz für alle Menschen ist“, ohne Amodeis umfassenderen Vorschlag explizit zu unterstützen oder abzulehnen.
OpenAI startet Task Force zur Untersuchung ungewöhnlicher Codex-Nutzung
OpenAI hat ein dediziertes Untersuchungsteam eingesetzt, nachdem Nutzerberichte über unregelmäßige Codex-Kontingentnutzung vorlagen. Bezahlte ChatGPT-Abonnenten berichten von einem starken Rückgang ihrer wöchentlichen Kontingente, wobei die Kontostän
Societe Generale setzt auf KI, um die Kosten um bis zu 600 Millionen Euro zu senken
Bloomberg berichtet, dass die Société Générale SA mit der wachsenden Rolle der künstlichen Intelligenz rechnet, was die Kostenreduzierungsinitiativen erheblich vorantreiben wird.Die in Paris ansässige Institution schätzt das derzeitige Einsparungspo
Wie man kostenlose KI-Sprechavatar erstellt
Master Roblox Avatar Customization: A Guide Inspired by Karl JacobsEinleitungOptimierung Ihres AvatarsNavigation im Avatar-EditorEntdecken beliebter LooksAnpassen Ihres CharaktersSuch- und FiltertoolsNutzung der SuchfunktionFilterung nach Beliebtheit











