Schränkt Anthropic Mythos ein, um das Internet zu schützen – oder um sich selbst zu schützen?

In dieser Woche gab Anthropic bekannt, dass es die Einführung seines neuesten Modells namens „Mythos“ eingeschränkt habe, und begründete dies mit dessen außergewöhnlicher Fähigkeit, Sicherheitslücken in weltweit genutzter Software aufzudecken.

Anstatt „Mythos“ der Öffentlichkeit zugänglich zu machen, plant das Pionierlabor, es einer ausgewählten Gruppe großer Unternehmen und Organisationen zur Verfügung zu stellen, die kritische Online-Infrastruktur verwalten – von Amazon Web Services bis hin zu JPMorgan Chase. OpenAI erwägt Berichten zufolge einen ähnlichen Ansatz für sein nächstes Cybersicherheits-Tool. Als Begründung wird angeführt, dass diese großen Unternehmen so böswilligen Akteuren einen Schritt voraus sein sollen, die möglicherweise fortschrittliche LLMs nutzen, um in sichere Software einzudringen.

Doch das Wort „Unternehmen“ im obigen Satz deutet darauf hin, dass diese Veröffentlichungsstrategie möglicherweise mehr umfasst als nur Cybersicherheit – oder den Hype um die Fähigkeiten des Modells.

Dan Lahav, CEO des KI-Cybersicherheitslabors Irregular, erklärte gegenüber TechCrunch im März, noch bevor Mythos vorgestellt wurde, dass KI-Tools zwar wichtig seien, um Schwachstellen aufzudecken, der tatsächliche Wert einer Schwachstelle für einen Angreifer jedoch von vielen Faktoren abhänge, darunter auch davon, wie diese kombiniert werden könnten.

„Die Frage, die mir immer im Kopf herumgeht“, so Lahav, „ist, ob sie etwas gefunden haben, das auf äußerst sinnvolle Weise ausgenutzt werden kann – entweder für sich allein oder als Teil einer Kette.“

Anthropic gibt an, dass Mythos Schwachstellen weitaus effektiver ausnutzen kann als sein Vorgängermodell Opus. Es bleibt jedoch unklar, ob Mythos tatsächlich das ultimative Cybersicherheitsmodell darstellt. Aisle, ein KI-Start-up im Bereich Cybersicherheit, behauptet, einen Großteil dessen, was Mythos laut Anthropic erreicht hat, mit kleineren Modellen mit offenem Gewicht nachgebildet zu haben. Das Team von Aisle argumentiert, diese Ergebnisse zeigten, dass es kein einziges Deep-Learning-Modell für die Cybersicherheit gebe; vielmehr hänge die Wirksamkeit von der jeweiligen Aufgabe ab.

Angesichts der Tatsache, dass Opus bereits als bahnbrechender Meilenstein für die Cybersicherheit galt, könnten Pionierlabore einen weiteren Grund haben, die Veröffentlichung auf große Organisationen zu beschränken: Dies schafft einen Schwung für Großunternehmensverträge und erschwert es gleichzeitig Wettbewerbern, ihre Modelle durch „Destillation“ zu kopieren – eine Technik, bei der Pioniermodelle genutzt werden, um neue LLMs kostengünstig zu trainieren.

„Das ist eine Marketing-Ausrede für die Tatsache, dass Spitzenmodelle nun durch Unternehmensvereinbarungen geschützt sind und kleinen Labors nicht mehr zur Destillation zur Verfügung stehen“, vermutete David Crawshaw, Softwareentwickler und CEO des Start-ups exe.dev, in einem Social-Media-Beitrag. „Bis Sie und ich Mythos nutzen können, wird es bereits eine neue Top-Tier-Version geben, die ausschließlich für Unternehmen bestimmt ist. Dieser Teufelskreis sorgt dafür, dass die Unternehmensgelder weiter fließen (die den Großteil der Einnahmen ausmachen), indem er Destillationsunternehmen in die zweite Reihe verweist“, so Crawshaw.

Diese Analyse deckt sich mit dem, was wir im KI-Ökosystem beobachten: ein Wettrennen zwischen Pionierlabors, die die größten und leistungsfähigsten Modelle entwickeln, und Unternehmen wie Aisle, die auf mehrere Modelle setzen und Open-Source-LLMs – oft aus China und angeblich durch Destillation entwickelt – als Weg zu wirtschaftlichen Vorteilen betrachten.

Die Spitzenlabore haben in diesem Jahr eine härtere Haltung gegenüber der Destillation eingenommen. Anthropic hat öffentlich bekannt gegeben, was es als Versuche chinesischer Firmen bezeichnet, seine Modelle zu kopieren, und drei führende Labore – Anthropic, Google und OpenAI – haben sich laut einem Bloomberg-Bericht zusammengeschlossen, um Destillierer zu identifizieren und zu blockieren.

Die Destillation bedroht das Geschäftsmodell der Pionierlabore, da sie die Vorteile zunichte macht, die durch den Einsatz massiver Kapitalmittel zur Skalierung erzielt werden. Die Blockierung der Destillation ist bereits ein lohnendes Unterfangen, doch der Ansatz der selektiven Veröffentlichung bietet den Labors zudem eine Möglichkeit, ihre Unternehmensangebote zu differenzieren, da diese Kategorie für einen profitablen Einsatz entscheidend wird.

Ob Mythos oder ein anderes neues Modell die Internetsicherheit tatsächlich gefährdet, bleibt abzuwarten, und eine vorsichtige Einführung der Technologie ist ein verantwortungsvoller Weg nach vorn.

Anthropic hat zum Zeitpunkt der Veröffentlichung nicht auf unsere Fragen geantwortet, ob die Entscheidung auch mit Bedenken hinsichtlich der „Distillation“ zusammenhängt, doch das Unternehmen hat möglicherweise einen cleveren Weg gefunden, das Internet – und seinen Gewinn – zu schützen.