A Anthropic está restringindo o Mythos para proteger a internet ou a si mesma?

Nesta semana, a Anthropic anunciou que restringiu o lançamento de seu mais novo modelo, chamado Mythos, citando sua excepcional capacidade de identificar falhas de segurança em softwares utilizados em todo o mundo.

Em vez de disponibilizar o Mythos ao público, o laboratório de ponta planeja compartilhá-lo com um grupo seleto de grandes empresas e organizações que gerenciam infraestruturas online críticas, desde a Amazon Web Services até o JPMorgan Chase. A OpenAI estaria considerando uma abordagem semelhante para sua próxima ferramenta de segurança cibernética. A justificativa apresentada é permitir que essas grandes empresas se mantenham à frente de agentes mal-intencionados que possam usar LLMs avançados para invadir softwares seguros.

Mas a palavra “empresa” na frase acima sugere que essa estratégia de lançamento pode envolver mais do que apenas segurança cibernética — ou o hype em torno das capacidades do modelo.

Dan Lahav, CEO do laboratório de cibersegurança com IA Irregular, disse ao TechCrunch em março, antes do lançamento do Mythos, que, embora as ferramentas de IA que descobrem vulnerabilidades sejam importantes, o valor real de qualquer fraqueza para um invasor depende de muitos fatores, incluindo como elas podem ser combinadas.

“A pergunta que sempre tenho em mente”, disse Lahav, “é se eles encontraram algo que possa ser explorado de forma altamente significativa — seja por si só ou como parte de uma cadeia.”

A Anthropic afirma que o Mythos pode explorar vulnerabilidades de forma muito mais eficaz do que seu modelo anterior, o Opus. Mas ainda não está claro se o Mythos realmente representa o modelo definitivo de segurança cibernética. A Aisle, uma startup de cibersegurança baseada em IA, afirma ter replicado grande parte do que a Anthropic diz que o Mythos alcançou usando modelos menores e de peso aberto. A equipe da Aisle argumenta que esses resultados mostram que não existe um único modelo de aprendizado profundo para cibersegurança; ao contrário, a eficácia depende da tarefa específica.

Considerando que o Opus já era considerado uma revolução para a segurança cibernética, os laboratórios de ponta podem ter outro motivo para limitar os lançamentos a grandes organizações: isso cria um efeito de alavanca para contratos com grandes empresas, ao mesmo tempo em que torna mais difícil para os concorrentes copiarem seus modelos por meio da destilação — uma técnica que usa modelos de ponta para treinar novos LLMs a baixo custo.

“Isso é uma desculpa de marketing para o fato de que os modelos de ponta agora estão restritos a acordos corporativos e não estão mais disponíveis para pequenos laboratórios destilarem”, sugeriu David Crawshaw, engenheiro de software e CEO da startup exe.dev, em uma postagem nas redes sociais. “Quando você e eu pudermos usar o Mythos, já haverá uma nova versão de ponta exclusiva para empresas. Esse ciclo vicioso ajuda a manter o fluxo de recursos corporativos (que representam a maior parte dos recursos) ao relegar as empresas de destilação a um segundo plano”, disse Crawshaw.

Essa análise se alinha ao que estamos observando no ecossistema de IA: uma corrida entre laboratórios de ponta que desenvolvem os modelos maiores e mais capazes e empresas como a Aisle, que dependem de múltiplos modelos e veem os LLMs de código aberto — muitas vezes provenientes da China e supostamente desenvolvidos por meio de destilação — como um caminho para obter vantagem econômica.

Os laboratórios de ponta adotaram uma postura mais rígida em relação à destilação este ano. A Anthropic revelou publicamente o que chama de tentativas de empresas chinesas de copiar seus modelos, e três laboratórios líderes — Anthropic, Google e OpenAI — se uniram para identificar os destiladores e bloqueá-los, de acordo com uma reportagem da Bloomberg.

A destilação ameaça o modelo de negócios dos laboratórios de ponta, pois elimina as vantagens obtidas com a aplicação de capital maciço para escalar. Bloquear a destilação já é um esforço que vale a pena, mas a abordagem de lançamento seletivo também oferece aos laboratórios uma maneira de diferenciar suas ofertas corporativas, à medida que essa categoria se torna fundamental para uma implantação lucrativa.

Ainda não se sabe se o Mythos ou qualquer novo modelo realmente coloca em risco a segurança da internet, e uma implantação cautelosa da tecnologia é o caminho responsável a seguir.

A Anthropic não respondeu às nossas perguntas sobre se a decisão também está ligada a preocupações com a destilação até o momento da publicação, mas a empresa pode ter encontrado uma maneira inteligente de proteger a internet — e seus resultados financeiros.