Como pesquisadores de Stanford criaram um vírus sintético usando inteligência artificial

Líderes da área de IA destacaram os riscos potenciais associados a modelos de IA com capacidade biológica. Crédito: CDC/Unsplash

Pesquisadores dos EUA utilizaram IA para criar o primeiro vírus sintético direcionado à E. coli, enquanto o CEO da Anthropic, Dario Amodei, levanta preocupações sobre ameaças biológicas impulsionadas pela IA.

Cientistas da Universidade de Stanford, nos EUA, criaram vírus que não existem na natureza usando inteligência artificial.

A equipe baseou seu trabalho em genomas gerados pelo Evo 2, um modelo de IA generativa projetado para lidar com desafios biológicos complexos por meio da proposição de novas sequências de DNA.

Embora essa descoberta seja muito promissora para a área da saúde e a pesquisa médica, ela, ao mesmo tempo, suscita sérias preocupações com a segurança e a biossegurança.

Líderes do setor de IA, incluindo o CEO da Anthropic, Dario Amodei, e o presidente do Google DeepMind, Demis Hassabis, já haviam alertado anteriormente sobre os riscos biológicos decorrentes dos avanços da IA.

Demis Hassabis, cofundador e CEO do Google DeepMind. Crédito: Demis Hassabis/LinkedIn

Novos vírus criados por IA

O engenheiro químico Brian Hie e o estudante de pós-graduação em bioengenharia Samuel King investigaram os bacteriófagos — que matam bactérias naturalmente — com o objetivo de projetar fagos como novos antibióticos em potencial.

Os pesquisadores aplicaram o Evo 2, um modelo de IA generativa, a esse desafio. Partindo do bacteriófago ΦX174, o Evo 2 propôs novas sequências de DNA, de acordo com o Stanford Report, a publicação oficial da universidade.

Usando o modelo, a equipe sintetizou e testou quase 300 fagos — um tipo de vírus que infecta, se replica dentro e mata bactérias — para avaliar sua eficácia contra a E. coli.

Posteriormente, eles reduziram a lista a 16 fagos altamente eficazes no combate à E. coli.

Brian Hie, professor assistente da Universidade de Stanford. Crédito: Brian Hie/LinkedIn

“Nesse caso, instruímos o modelo a gerar o genoma inteiro de ponta a ponta em uma única passagem da esquerda para a direita, sem adicionar nada”, explicou Brian ao Stanford Report, descrevendo o processo que gerou milhares de opções para sua equipe.

“Testes de laboratório mostraram que algumas das sugestões do Evo apresentaram maior aptidão do que o ΦX174 nativo.”

Riscos emergentes

De acordo com a BBC News, o Dr. Thomas Inglesby e o Dr. Moritz Hanke, do Centro de Segurança Sanitária da Universidade Johns Hopkins, afirmaram que essas descobertas levantam “questões urgentes de biossegurança e segurança biológica”.

Eles argumentaram que a questão já não é “se o projeto generativo de genoma viral existirá”, mas se ele pode ser usado sem “causar danos graves”. Por exemplo, eles observaram que a criação de novos vírus com potencial de causar doenças “não deve ser buscada”, relata a BBC News.

Líderes da área de IA delinearam claramente os riscos potenciais decorrentes de modelos de IA com capacidade biológica.

Dario Amodei escreveu em seu blog em junho: “Os modelos de IA evoluíram de mal conseguir escrever uma linha coerente de código para escrever a maior parte do código nas principais empresas de IA”. Ele observou que avanços semelhantes ocorreram na biologia, física, matemática, finanças, direito, tradução e outros campos.

Dario Amodei, cofundador e CEO da Anthropic. Crédito: Getty Images

Destacando como os atuais riscos cibernéticos decorrentes de modelos avançados poderiam afetar outros setores, ele afirmou: “Os riscos cibernéticos representados por modelos da classe Mythos não serão os últimos que teremos de enfrentar. Acredito que riscos biológicos possam surgir em breve, e que sérios riscos relacionados à autonomia da IA possam não estar muito atrás.”

Em uma advertência contundente sobre ameaças biológicas, Dario escreveu: “Ficou claro para a Anthropic que a IA poderia, eventualmente, produzir armas biológicas capazes de ameaçar milhões de pessoas, ou comportamentos autônomos inadequados que poderiam, em casos extremos, ameaçar a própria humanidade.”

Implicações e possibilidades biológicas

Embora os pesquisadores de Stanford não tenham, no momento, planos de comercializar esse trabalho e tenham disponibilizado o Evo 2 abertamente, as implicações para a saúde e a pesquisa médica são profundas.

“A importância do artigo marcante de Brian Hie não pode ser subestimada”, disse Adrian Woolfson, especialista em genômica e CEO da empresa de síntese de DNA Genyro, ao Financial Times.

“Ele representa o momento dos irmãos Wright da biologia, em que deixamos de apenas observar as criações da evolução e nos deparamos com a vasta extensão das possibilidades biológicas futuras.”

O Fórum Econômico Mundial argumenta que a IA poderia acelerar e otimizar etapas críticas na descoberta de medicamentos, como a identificação de alvos de doenças, a geração de novos compostos e a previsão de segurança.

A velocidade sem precedentes dos avanços na biologia, na descoberta de medicamentos e em novas soluções científicas para problemas complexos traz implicações enormes para os setores farmacêutico e médico.