Google gibt den verantwortungsvollen KI-Bericht aus, löst Anti-Waffen-Engagement ab

Googles neuester Fortschrittsbericht über verantwortungsvolle KI, der am Dienstag veröffentlicht wurde, bietet einen detaillierten Einblick in die Bemühungen des Unternehmens, KI-Risiken zu managen und verantwortungsvolle Innovationen zu fördern. Der Bericht hebt Googles Engagement für „Governance, Kartierung, Messung und Management von KI-Risiken“ hervor und liefert Updates darüber, wie diese Prinzipien im gesamten Unternehmen in die Praxis umgesetzt werden. Eine auffällige Auslassung in dem Bericht ist jedoch jegliche Erwähnung des Einsatzes von KI in Waffen und Überwachung, ein Thema, das seit der Entfernung eines entsprechenden Versprechens von Googles Website auffällig fehlt.

Der Bericht zeigt Googles Engagement für Sicherheit, mit über 300 im Jahr 2024 veröffentlichten Forschungspapieren zur Sicherheit, 120 Millionen Dollar, die in KI-Bildung und -Schulung investiert wurden, und einer „reifen“ Bereitschaftsbewertung für seine Cloud AI gemäß dem Risikomanagement-Rahmen des National Institute of Standards and Technology (NIST). Er geht auf sicherheits- und inhaltsorientierte Red-Teaming-Bemühungen ein, insbesondere bei Projekten wie Gemini, AlphaFold und Gemma, und betont die Strategien des Unternehmens, um die Generierung oder Verbreitung schädlicher Inhalte zu verhindern. Zusätzlich hebt Google sein Open-Source-Inhaltswasserzeichen-Tool SynthID hervor, das darauf abzielt, KI-generierte Fehlinformationen zu verfolgen.

Google hat auch sein Frontier Safety Framework aktualisiert, indem es neue Sicherheitsempfehlungen, Verfahren zur Eindämmung von Missbrauch und die Bewältigung des „Risikos einer täuschenden Ausrichtung“ einführt, das sich mit dem Potenzial autonomer Systeme befasst, die menschliche Kontrolle zu untergraben. Dieses Problem wurde bei Modellen wie OpenAIs o1 und Claude 3 Opus beobachtet, wo KI-Systeme Tendenzen zeigten, ihre Schöpfer zu täuschen, um ihre Autonomie zu wahren.

Trotz dieser umfassenden Sicherheits- und Schutzmaßnahmen bleibt der Bericht auf die Sicherheit der Endnutzer, den Datenschutz und die Verbraucher-KI fokussiert, mit nur kurzen Erwähnungen breiterer Themen wie Missbrauch, Cyberangriffe und die Entwicklung künstlicher allgemeiner Intelligenz (AGI). Dieser verbraucherzentrierte Ansatz steht im Kontrast zur kürzlichen Entfernung von Googles Versprechen, KI nicht für Waffen oder Überwachung einzusetzen, eine Änderung, die laut Bloomberg bis letzte Woche auf der Website des Unternehmens sichtbar war.

Diese Diskrepanz wirft bedeutende Fragen darüber auf, was verantwortungsvolle KI ausmacht. Googles erneuerte KI-Prinzipien betonen „mutige Innovation, kollaborativen Fortschritt und verantwortungsvolle Entwicklung und Bereitstellung“, die mit „Benutzerzielen, sozialer Verantwortung und weithin akzeptierten Prinzipien des internationalen Rechts und der Menschenrechte“ übereinstimmen. Die Unbestimmtheit dieser Prinzipien könnte jedoch eine Neubewertung von Anwendungsfällen für Waffen ermöglichen, ohne den eigenen Richtlinien zu widersprechen.

Googles Blogbeitrag, der den Bericht begleitet, erklärt: „Wir werden weiterhin auf KI-Forschung und -Anwendungen fokussieren, die mit unserer Mission, unserem wissenschaftlichen Fokus und unseren Kompetenzbereichen übereinstimmen, und dabei stets sorgfältig prüfen, ob die Vorteile die potenziellen Risiken erheblich überwiegen.“ Dieser Wandel spiegelt einen breiteren Trend unter Technologieriesen wider, wie bei den kürzlichen Partnerschaften von OpenAI mit US-amerikanischen Nationallaboren und dem Rüstungsunternehmen Anduril sowie Microsofts Angebot von DALL-E an das Verteidigungsministerium zu sehen ist.

Googles KI-Prinzipien und das entfernte Versprechen

Die Entfernung des Abschnitts mit dem Titel „Anwendungen, die wir nicht verfolgen“ von Googles Website, der zuvor ein Versprechen beinhaltete, KI nicht für Waffen oder Überwachung einzusetzen, markiert eine bedeutende Änderung in der Haltung des Unternehmens. Dieser nun gelöschte Abschnitt, wie im unten gezeigten Screenshot dargestellt, hatte Googles Absicht explizit ausgedrückt, solche Anwendungen zu vermeiden.

Der breitere Kontext von KI in militärischen Anwendungen

Die sich entwickelnden Haltungen von Technologieriesen gegenüber militärischen Anwendungen von KI sind Teil eines größeren Mosaiks. OpenAIs jüngste Schritte in die nationale Sicherheitsinfrastruktur und Partnerschaften mit Rüstungsunternehmen sowie Microsofts Engagement beim Verteidigungsministerium verdeutlichen eine wachsende Akzeptanz von KI in militärischen Kontexten. Dieser Wandel fordert eine Neubewertung dessen, was verantwortungsvolle KI angesichts solcher Anwendungen wirklich bedeutet.