AI Summit hat die Gelegenheit verpasst, sagt anthropischer CEO

In einer am Dienstag veröffentlichten Erklärung äußerte Dario Amodei, CEO des KI-Startups Anthropic, seine Enttäuschung über den in dieser Woche in Paris abgehaltenen AI Action Summit und bezeichnete ihn als „verpasste Gelegenheit“. Er forderte sowohl die KI-Branche als auch Regierungsvertreter auf, mit mehr Geschwindigkeit und Klarheit zu handeln.

„Wir waren froh, am AI Action Summit in Paris teilzunehmen und loben die französische Regierung für die Vereinigung von KI-Unternehmen, Forschern und politischen Entscheidungsträgern weltweit“, erklärte Amodei. „Dennoch entsprachen die Dringlichkeit und der Fokus auf zentrale Themen nicht dem rasanten Fortschritt der Technologie.“

Amodeis Kritik am Gipfel, der Teil einer Konferenzreihe ist, die auf einen Konsens über KI-Governance abzielt, fand Anklang bei den Ansichten mehrerer Akademiker, die das Ereignis bereits früher in der Woche kritisierten. Ein Akademiker bemerkte gegenüber Transformer, dass die Verpflichtungen des Gipfels, die nicht von den USA und Großbritannien unterzeichnet wurden, im Wesentlichen „leere Versprechungen in Plattitüden verpackt“ seien.

Auf der Konferenz vertrat der US-Vizepräsident JD Vance eine stark gegensätzliche Perspektive und kritisierte die seiner Meinung nach übermäßig restriktiven KI-Regulierungen, die von Europa vorgeschlagen wurden. Er stellte auch den Fokus der Konferenz auf Inhaltsmoderation in Frage und wies die Begriffe „nachhaltig“ und „inklusiv“ in den Verpflichtungen als verdeckte Versuche „autoritäre Zensur“ ab.

Amodei betonte die rasante Entwicklung der KI und warnte vor potenziell katastrophalen Folgen, wenn sie nicht angemessen reguliert wird. „Stellen Sie sich KI-Systeme als eine neue Nation vor, die mit hochintelligenten Wesen die globale Bühne betritt“, erklärte er. „Fortschrittliche KI stellt ernsthafte Bedrohungen für die globale Sicherheit dar, insbesondere durch Missbrauch durch nichtstaatliche Akteure... Es ist entscheidend, dass demokratische Nationen die Führung in der KI-Entwicklung übernehmen, um zu verhindern, dass autoritäre Regime durch KI globale militärische Überlegenheit erlangen.“

Er drängte Regierungen, die Nutzung von KI aktiv zu überwachen und Politiken umzusetzen, die gerechte wirtschaftliche Vorteile aus fortschrittlichen KI-Technologien sicherstellen. Amodei betonte auch die Notwendigkeit einer erhöhten Transparenz der Regierungen in Bezug auf KI-Sicherheit und -Sicherung sowie Strategien zur Bewertung von KI-Risiken.

Diese Perspektive steht im Gegensatz zu der von OpenAI, die Vertrauen ausdrückte, dass die Pariser Konferenz „einen weiteren wichtigen Meilenstein hin zur verantwortungsvollen und nützlichen Entwicklung von KI für alle“ markierte.

Anthropic war historisch gesehen offener für KI-Regulierung. Amodei hat zuvor Bedenken über die potenziellen negativen Auswirkungen unregulierter KI auf Wirtschaft, Gesellschaft und Sicherheit geäußert. Anthropic unterstützte subtil Kaliforniens SB 1047, ein umfassendes KI-Regulierungsgesetz, das viel Diskussion auslöste, bevor es letztes Jahr von Gouverneur Gavin Newsom abgelehnt wurde. Im Gegensatz dazu lehnte OpenAI das Gesetz ab.

Es ist jedoch zu beachten, dass Anthropics Haltung nicht rein altruistisch ist. Ähnlich wie in den jüngsten Schriften von OpenAI-CEO Sam Altman lieferte Amodei keine spezifischen Vorschläge, wie sichergestellt werden kann, dass die Vorteile fortschrittlicher KI breit und gleichmäßig verteilt werden.

Lesen Sie unsere umfassende Berichterstattung über den Artificial Intelligence Action Summit in Paris.