Geoff Ralston, da Y Combinator, lança novo fundo de segurança de IA

Geoff Ralston, uma figura proeminente no mundo das startups por meio de sua longa associação com a Y Combinator, voltou oficialmente a investir ativamente, conforme anunciou na quinta-feira.

Seu novo fundo, denominado Safe Artificial Intelligence Fund (SAIF), reflete sua missão principal e, ao mesmo tempo, serve como um acrônimo inteligente.

De acordo com o site do fundo, Ralston tem como alvo startups dedicadas a "aumentar a segurança e a proteção da IA e sua implementação responsável". Ele pretende emitir cheques de US$ 100.000 usando um acordo SAFE - "trocadilho intencional", ele observa - com um limite de avaliação de US$ 10 milhões. Um SAFE, notoriamente desenvolvido pela Y Combinator, é um acordo simples para patrimônio futuro que adia a avaliação até uma rodada de financiamento posterior.

Embora o interesse do capital de risco em startups de IA seja generalizado, a abordagem de Ralston é nitidamente centrada na IA segura, um foco que ele reconhece ser intencionalmente amplo.

"A maioria dos projetos de IA atuais é projetada para resolver problemas, aumentar a eficiência ou criar novos recursos. Embora não sejam inerentemente inseguros, a segurança não é sua principal prioridade", explicou Ralston ao TechCrunch. "Minha meta é financiar startups em que a IA segura seja o objetivo principal, conforme defini em termos bem amplos."

Seu escopo de investimento inclui empresas focadas em tornar a IA mais segura, como as que melhoram a transparência na tomada de decisões sobre IA ou estabelecem referências de segurança. Ele também abrange ferramentas que protegem a propriedade intelectual, garantem a conformidade regulatória, combatem a desinformação e detectam ataques impulsionados pela IA. Além disso, ele está interessado em ferramentas funcionais de IA projetadas com segurança incorporada, como sistemas avançados de previsão de IA ou plataformas de negociação baseadas em IA que protegem os segredos corporativos.

Embora isso possa se assemelhar à tese de investimento de outros VCs com foco em IA, Ralston está excluindo certas áreas. Um exemplo claro são os sistemas de armas totalmente autônomos.

"Há aplicações inegavelmente inseguras de IA, como a criação de armas biológicas ou o gerenciamento de armas convencionais sem supervisão humana", afirmou.

Na verdade, ele pretende apoiar "sistemas de segurança de armas" que possam identificar ou impedir ataques de armas controladas por IA.

Essa posição apresenta uma perspectiva contrastante em relação a muitos fundadores e investidores atuais em tecnologia de defesa. Como o TechCrunch já cobriu, alguns desenvolvedores de armas com IA estão cada vez mais defendendo sistemas que operem independentemente do controle humano.

Apesar do cenário lotado de investimentos em IA, Ralston acredita que seus laços com a Y Combinator podem lhe dar uma vantagem. Ele deixou a YC em 2022 após um mandato de três anos como presidente - sucedido por Garry Tan - e mais de dez anos como consultor.

Ralston planeja oferecer o mesmo tipo de orientação que forneceu na renomada aceleradora de startups, incluindo orientação sobre como se candidatar à Y Combinator. Ele também promete ajudar as empresas do portfólio a acessar sua ampla rede de investidores.

Ralston não revelou o tamanho do fundo, o número de startups que planeja apoiar ou a identidade de seus sócios limitados.