Wie Forscher der Stanford-Universität mithilfe künstlicher Intelligenz einen synthetischen Virus entwickelt haben

Führende KI-Experten haben auf potenzielle Risiken hingewiesen, die mit biologisch fähigen KI-Modellen verbunden sind. Bildquelle: CDC/Unsplash

US-Forscher haben mithilfe von KI das erste synthetische Virus entwickelt, das auf E. coli abzielt, während Dario Amodei, CEO von Anthropic, Bedenken hinsichtlich KI-bedingter biologischer Bedrohungen äußert.

Wissenschaftler der Stanford University in den USA haben mithilfe künstlicher Intelligenz Viren entwickelt, die in der Natur nicht vorkommen.

Das Team stützte sich bei seiner Arbeit auf Genome, die von „Evo 2“ generiert wurden – einem generativen KI-Modell, das komplexe biologische Herausforderungen durch den Vorschlag neuartiger DNA-Sequenzen bewältigen soll.

Dieser Durchbruch ist zwar für das Gesundheitswesen und die medizinische Forschung vielversprechend, wirft jedoch gleichzeitig ernsthafte Bedenken hinsichtlich der Sicherheit und der Biosicherheit auf.

Führende Persönlichkeiten der KI-Branche, darunter Dario Amodei, CEO von Anthropic, und Demis Hassabis, Vorsitzender von Google DeepMind, haben bereits zuvor vor biologischen Risiken gewarnt, die sich aus den Fortschritten der KI ergeben.

Demis Hassabis, Mitbegründer und CEO von Google DeepMind. Bildnachweis: Demis Hassabis/LinkedIn

Durch KI entwickelte neue Viren

Der Chemieingenieur Brian Hie und der Bioingenieur-Doktorand Samuel King untersuchten Bakteriophagen, die von Natur aus Bakterien abtöten, mit dem Ziel, Phagen als potenzielle neue Antibiotika zu entwickeln.

Die Forscher setzten für diese Herausforderung „Evo 2“, ein generatives KI-Modell, ein. Ausgehend vom Bakteriophagen ΦX174 schlug „Evo 2“ laut dem „Stanford Report“, der offiziellen Publikation der Universität, neue DNA-Sequenzen vor.

Mithilfe des Modells synthetisierte und testete das Team fast 300 Phagen – eine Art von Virus, das Bakterien infiziert, sich in ihnen vermehrt und sie abtötet – auf ihre Wirksamkeit gegen E. coli.

Anschließend grenzten sie die Liste auf 16 hochwirksame, E. coli abtötende Phagen ein.

Brian Hie, Assistenzprofessor an der Stanford University. Bildnachweis: Brian Hie/LinkedIn

„In diesem Fall haben wir das Modell angewiesen, das gesamte Genom in einem einzigen Durchlauf von links nach rechts durchgehend zu generieren, ohne etwas hinzuzufügen“, erklärte Brian gegenüber dem „Stanford Report“ und beschrieb damit den Prozess, der seinem Team Tausende von Optionen lieferte.

„Labortests zeigten, dass einige der Vorschläge von Evo eine höhere Fitness aufwiesen als das native ΦX174.“

Aufkommende Risiken

Laut BBC News erklärten Dr. Thomas Inglesby und Dr. Moritz Hanke vom Center for Health Security der Johns Hopkins University, dass diese Erkenntnisse „dringende Fragen zur Biosicherheit und Biogefährdung“ aufwerfen.

Sie argumentierten, die Frage sei nicht mehr, „ob es generatives virales Genomdesign geben wird“, sondern ob es genutzt werden könne, ohne „schwerwiegenden Schaden zu verursachen“. So wiesen sie beispielsweise darauf hin, dass die Schaffung neuer Viren mit krankheitserregendem Potenzial „nicht verfolgt werden sollte“, berichtet BBC News.

Führende KI-Experten haben die potenziellen Risiken, die von biologisch fähigen KI-Modellen ausgehen, klar umrissen.

Dario Amodei schrieb im Juni in seinem Blog: „KI-Modelle haben sich von der Fähigkeit, kaum eine zusammenhängende Codezeile zu schreiben, dahin entwickelt, den Großteil des Codes bei großen KI-Unternehmen zu schreiben.“ Er wies darauf hin, dass ähnliche Fortschritte in der Biologie, Physik, Mathematik, Finanzwelt, Rechtswissenschaft, Übersetzung und anderen Bereichen zu verzeichnen seien.

Dario Amodei, Mitbegründer und CEO von Anthropic. Bildnachweis: Getty Images

Er hob hervor, wie sich die aktuellen Cyberrisiken durch fortschrittliche Modelle auf andere Sektoren auswirken könnten, und erklärte: „Die Cyberrisiken, die von Modellen der Mythos-Klasse ausgehen, werden nicht die letzten sein, denen wir uns stellen müssen. Ich glaube, dass bald biologische Risiken folgen könnten und ernsthafte Risiken durch KI-Autonomie nicht weit dahinter liegen dürften.“

Dario sprach eine eindringliche Warnung vor biologischen Bedrohungen aus und schrieb: „Für Anthropic war klar, dass KI letztendlich biologische Waffen hervorbringen könnte, die Millionen Menschen bedrohen, oder autonomes Fehlverhalten, das in extremen Fällen die Menschheit selbst gefährden könnte.“

Auswirkungen und biologische Möglichkeiten

Obwohl die Forscher aus Stanford derzeit keine Pläne haben, diese Arbeit zu kommerzialisieren, und Evo 2 frei zugänglich gemacht haben, sind die Auswirkungen auf das Gesundheitswesen und die medizinische Forschung tiefgreifend.

„Die Bedeutung von Brian Hies bahnbrechender Arbeit kann gar nicht hoch genug eingeschätzt werden“, erklärte Adrian Woolfson, Genomik-Experte und CEO des DNA-Syntheseunternehmens Genyro, gegenüber der Financial Times.

„Es stellt den ‚Wright-Brüder-Moment‘ der Biologie dar, in dem wir aufhören, die Schöpfungen der Evolution lediglich zu beobachten, und uns der unermesslichen Weite zukünftiger biologischer Möglichkeiten stellen.“

Das Weltwirtschaftsforum argumentiert, dass KI entscheidende Schritte in der Arzneimittelforschung beschleunigen und optimieren könnte, wie beispielsweise die Identifizierung von Krankheitszielen, die Entwicklung neuer Wirkstoffe und die Vorhersage der Sicherheit.

Das beispiellose Tempo der Fortschritte in der Biologie, der Arzneimittelforschung und bei neuartigen wissenschaftlichen Lösungen für komplexe Probleme hat enorme Auswirkungen auf den gesamten pharmazeutischen und medizinischen Sektor.