Как исследователи из Стэнфорда создали синтетический вирус с помощью искусственного интеллекта

Лидеры в области ИИ обратили внимание на потенциальные риски, связанные с моделями ИИ, способными воздействовать на биологические системы. Источник: CDC/Unsplash

Американские исследователи с помощью ИИ создали первый синтетический вирус, поражающий E. coli, в то время как генеральный директор компании Anthropic Дарио Амодеи выражает обеспокоенность по поводу биологических угроз, связанных с ИИ.

Ученые Стэнфордского университета в США с помощью искусственного интеллекта создали вирусы, не встречающиеся в природе.

Команда основала свою работу на геномах, сгенерированных Evo 2 — генеративной моделью ИИ, предназначенной для решения сложных биологических задач путем предложения новых последовательностей ДНК.

Хотя этот прорыв открывает значительные перспективы для здравоохранения и медицинских исследований, он одновременно вызывает серьезные опасения в отношении безопасности и биобезопасности.

Лидеры отрасли искусственного интеллекта, в том числе генеральный директор Anthropic Дарио Амодеи и председатель Google DeepMind Демис Хассабис, ранее уже предупреждали о биологических рисках, связанных с развитием ИИ.

Демис Хассабис, соучредитель и генеральный директор Google DeepMind. Источник: Демис Хассабис/LinkedIn

Новые вирусы, созданные с помощью ИИ

Инженер-химик Брайан Хи и аспирант по биоинженерии Сэмюэл Кинг исследовали бактериофаги, которые естественным образом убивают бактерии, с целью создания фагов в качестве потенциальных новых антибиотиков.

Для решения этой задачи исследователи применили Evo 2 — генеративную модель искусственного интеллекта. Как сообщает «Stanford Report», официальное издание университета, на основе бактериофага ΦX174 Evo 2 предложила новые последовательности ДНК.

С помощью этой модели команда синтезировала и протестировала почти 300 фагов — вирусов, которые заражают бактерии, размножаются внутри них и убивают их — на эффективность против E. coli.

Впоследствии они сузили список до 16 высокоэффективных фагов, уничтожающих E. coli.

Брайан Хи, доцент Стэнфордского университета. Источник: Брайан Хи/LinkedIn

«В данном случае мы задали модели сгенерировать весь геном от начала до конца за один проход слева направо, не добавляя ничего», — пояснил Брайан изданию Stanford Report, описывая процесс, который дал его команде тысячи вариантов.

«Лабораторные тесты показали, что некоторые из предложений Evo демонстрировали более высокую приспособленность, чем нативный ΦX174».

Возникающие риски

Как сообщает BBC News, доктор Томас Инглсби и доктор Мориц Ханке из Центра безопасности здравоохранения Университета Джонса Хопкинса заявили, что эти результаты поднимают «насущные вопросы биобезопасности и биозащиты».

Они утверждали, что вопрос уже не в том, «будет ли существовать генеративное проектирование вирусного генома», а в том, можно ли его использовать, не «причиняя серьезного вреда». Например, они отметили, что создание новых вирусов, способных вызывать заболевания, «не должно проводиться», сообщает BBC News.

Лидеры в области ИИ четко обозначили потенциальные риски, связанные с моделями ИИ, способными взаимодействовать с биологическими системами.

В июне Дарио Амодеи написал в своём блоге: «Модели ИИ прошли путь от того, что едва могли написать связную строку кода, до того, что теперь пишут большую часть кода в крупнейших компаниях, занимающихся ИИ». Он отметил, что аналогичные прорывы произошли в биологии, физике, математике, финансах, праве, переводе и других областях.

Дарио Амодеи, соучредитель и генеральный директор компании Anthropic. Фото: Getty Images

Подчеркивая, как нынешние киберриски, связанные с передовыми моделями, могут повлиять на другие секторы, он заявил: «Киберриски, создаваемые моделями класса Mythos, не будут последними, с которыми нам придётся столкнуться. Я полагаю, что вскоре могут последовать биологические риски, а серьёзные риски, связанные с автономностью ИИ, могут не заставить себя долго ждать».

Выступая с резким предупреждением о биологических угрозах, Дарио написал: «Для Anthropic было очевидно, что ИИ в конечном итоге может создать биологическое оружие, способное угрожать миллионам людей, или привести к автономному неконтролируемому поведению, которое в крайних случаях может поставить под угрозу само человечество».

Последствия и биологические возможности

Хотя у исследователей из Стэнфорда в настоящее время нет планов по коммерциализации этой работы и они сделали Evo 2 общедоступным, последствия для здравоохранения и медицинских исследований являются глубокими.

«Значение знаковой статьи Брайана Хи невозможно переоценить», — заявил Financial Times Эдриан Вулфсон, эксперт в области геномики и генеральный директор компании Genyro, занимающейся синтезом ДНК.

«Это настоящий «момент братьев Райт» в биологии, когда мы перестаем просто наблюдать за творениями эволюции и сталкиваемся с безграничными перспективами будущих биологических возможностей».

Всемирный экономический форум утверждает, что искусственный интеллект может ускорить и оптимизировать ключевые этапы открытия лекарств, такие как выявление мишеней заболеваний, создание новых соединений и прогнозирование безопасности.

Беспрецедентная скорость прогресса в биологии, разработке лекарственных препаратов и появлении новых научных решений сложных проблем имеет огромные последствия для фармацевтического и медицинского секторов.