Großbritannien KI Körperbenamen in das Sicherheitsinstitut, unterschreibt MoU mit anthropisch

Die britische Regierung vollzieht einen bedeutenden Wandel in ihrem Ansatz für KI, um Wirtschaft und Industrie durch diese Technologie zu stärken. Im Rahmen dieser neuen Ausrichtung hat das Ministerium für Wissenschaft, Industrie und Technologie eine Umbenennung des vor etwas über einem Jahr gegründeten AI Safety Institute in „AI Security Institute“ bekanntgegeben. Diese Namensänderung spiegelt einen Fokuswechsel von existenziellen Risiken und Vorurteilen in der KI hin zu Cybersicherheitsbedenken wider, insbesondere zur Stärkung von Schutzmaßnahmen gegen KI-bezogene Bedrohungen für die nationale Sicherheit und Kriminalität.

Im Zusammenhang mit dieser Umbenennung hat die Regierung eine neue Partnerschaft mit Anthropic eingegangen. Obwohl konkrete Dienstleistungen nicht detailliert wurden, deutet das Memorandum of Understanding darauf hin, die Nutzung von Anthropics KI-Assistenten Claude im öffentlichen Dienst zu erforschen. Anthropic wird auch zu wissenschaftlicher Forschung und wirtschaftlicher Modellierung beitragen und dem AI Security Institute Werkzeuge zur Bewertung von Sicherheitsrisiken der KI zur Verfügung stellen.

„KI hat das Potenzial, die Art und Weise, wie Regierungen ihren Bürgern dienen, zu transformieren“, sagte Anthropic-Mitgründer und CEO Dario Amodei. „Wir freuen uns darauf, zu erkunden, wie Anthropics KI-Assistent Claude britischen Regierungsbehörden helfen könnte, öffentliche Dienstleistungen zu verbessern, mit dem Ziel, neue Wege zu finden, um wichtige Informationen und Dienstleistungen für britische Bürger effizienter und zugänglicher zu machen.“

Anthropic ist das einzige Unternehmen, das in der heutigen Ankündigung hervorgehoben wurde, die mit einer Woche von KI-bezogenen Veranstaltungen in München und Paris zusammenfällt. Die britische Regierung arbeitet jedoch auch mit anderen KI-Unternehmen zusammen. Im Januar wurden neue, von OpenAI betriebene Werkzeuge eingeführt, und Technologieminister Peter Kyle erwähnte Pläne, mit verschiedenen grundlegenden KI-Unternehmen zusammenzuarbeiten, wie das Abkommen mit Anthropic zeigt.

Die Neuausrichtung des AI Safety Institute zum AI Security Institute, kurz nach seiner Gründung, steht im Einklang mit dem KI-zentrierten „Plan für Veränderung“ der Labour-Regierung, der im Januar angekündigt wurde. Dieser Plan ließ Begriffe wie „Sicherheit“, „Schaden“, „existenzial“ und „Bedrohung“ auffällig aus, was auf einen Fokus auf wirtschaftliche Entwicklung durch KI anstelle ausschließlicher Sicherheitsbedenken hinweist.

Dieser Wandel ist nicht überraschend, angesichts des Ziels der Regierung, Investitionen in eine modernisierte Wirtschaft durch KI anzuregen. Die Strategie umfasst eine engere Zusammenarbeit mit Big Tech und die Förderung des Wachstums einheimischer Technologieriesen. Beamte erhalten Zugang zu einem KI-Assistenten namens „Humphrey“ und werden ermutigt, KI zur Steigerung der Effizienz zu nutzen. Verbraucher profitieren von digitalen Geldbörsen für Regierungsdokumente und Chatbots.

Obwohl KI-Sicherheitsfragen nicht vollständig gelöst sind, scheint die Haltung der Regierung zu sein, dass der Fortschritt nicht allein durch Sicherheitsbedenken behindert werden sollte. Trotz der Namensänderung betont die Regierung, dass die Kernmission unverändert bleibt.

„Die heute angekündigten Änderungen stellen den logischen nächsten Schritt in unserem Ansatz für eine verantwortungsvolle KI-Entwicklung dar – sie helfen uns, KI zu entfesseln und die Wirtschaft im Rahmen unseres Plans für Veränderung wachsen zu lassen“, erklärte Kyle. „Die Arbeit des AI Security Institute wird sich nicht ändern, aber dieser erneuerte Fokus stellt sicher, dass unsere Bürger – und die unserer Verbündeten – vor denen geschützt sind, die KI gegen unsere Institutionen, demokratischen Werte und Lebensweise einsetzen würden.“

Ian Hogarth, der weiterhin den Vorsitz des Instituts führt, fügte hinzu: „Der Fokus des Instituts lag von Anfang an auf Sicherheit, und wir haben ein Team von Wissenschaftlern aufgebaut, das sich auf die Bewertung schwerwiegender Risiken für die Öffentlichkeit konzentriert. Unser neues Team zur Bekämpfung krimineller Nutzung und die vertiefte Partnerschaft mit der nationalen Sicherheitsgemeinschaft markieren die nächste Stufe im Umgang mit diesen Risiken.“

Global betrachtet scheint der Fokus auf KI-Sicherheit abzunehmen. In den USA droht dem AI Safety Institute die Auflösung, eine Möglichkeit, die Vizepräsident J.D. Vance in einer Rede in Paris andeutete.