Geoff Ralston, da Y Combinator, lança novo fundo de segurança de IA

Geoff Ralston, uma figura proeminente no mundo das startups por meio de sua longa associação com a Y Combinator, voltou oficialmente a investir ativamente, conforme anunciou na quinta-feira.
Seu novo fundo, denominado Safe Artificial Intelligence Fund (SAIF), reflete sua missão principal e, ao mesmo tempo, serve como um acrônimo inteligente.
De acordo com o site do fundo, Ralston tem como alvo startups dedicadas a "aumentar a segurança e a proteção da IA e sua implementação responsável". Ele pretende emitir cheques de US$ 100.000 usando um acordo SAFE - "trocadilho intencional", ele observa - com um limite de avaliação de US$ 10 milhões. Um SAFE, notoriamente desenvolvido pela Y Combinator, é um acordo simples para patrimônio futuro que adia a avaliação até uma rodada de financiamento posterior.
Embora o interesse do capital de risco em startups de IA seja generalizado, a abordagem de Ralston é nitidamente centrada na IA segura, um foco que ele reconhece ser intencionalmente amplo.
"A maioria dos projetos de IA atuais é projetada para resolver problemas, aumentar a eficiência ou criar novos recursos. Embora não sejam inerentemente inseguros, a segurança não é sua principal prioridade", explicou Ralston ao TechCrunch. "Minha meta é financiar startups em que a IA segura seja o objetivo principal, conforme defini em termos bem amplos."
Seu escopo de investimento inclui empresas focadas em tornar a IA mais segura, como as que melhoram a transparência na tomada de decisões sobre IA ou estabelecem referências de segurança. Ele também abrange ferramentas que protegem a propriedade intelectual, garantem a conformidade regulatória, combatem a desinformação e detectam ataques impulsionados pela IA. Além disso, ele está interessado em ferramentas funcionais de IA projetadas com segurança incorporada, como sistemas avançados de previsão de IA ou plataformas de negociação baseadas em IA que protegem os segredos corporativos.
Embora isso possa se assemelhar à tese de investimento de outros VCs com foco em IA, Ralston está excluindo certas áreas. Um exemplo claro são os sistemas de armas totalmente autônomos.
"Há aplicações inegavelmente inseguras de IA, como a criação de armas biológicas ou o gerenciamento de armas convencionais sem supervisão humana", afirmou.
Na verdade, ele pretende apoiar "sistemas de segurança de armas" que possam identificar ou impedir ataques de armas controladas por IA.
Essa posição apresenta uma perspectiva contrastante em relação a muitos fundadores e investidores atuais em tecnologia de defesa. Como o TechCrunch já cobriu, alguns desenvolvedores de armas com IA estão cada vez mais defendendo sistemas que operem independentemente do controle humano.
Apesar do cenário lotado de investimentos em IA, Ralston acredita que seus laços com a Y Combinator podem lhe dar uma vantagem. Ele deixou a YC em 2022 após um mandato de três anos como presidente - sucedido por Garry Tan - e mais de dez anos como consultor.
Ralston planeja oferecer o mesmo tipo de orientação que forneceu na renomada aceleradora de startups, incluindo orientação sobre como se candidatar à Y Combinator. Ele também promete ajudar as empresas do portfólio a acessar sua ampla rede de investidores.
Ralston não revelou o tamanho do fundo, o número de startups que planeja apoiar ou a identidade de seus sócios limitados.
Artigo relacionado
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Conformidade com a regulamentação de veículos autônomos na Califórnia: uma nova era de multas, geocercas e 1 milhão de milhas
A Guident opera um veículo de transporte da AuveTech no sul da Flórida, administrando uma rota de quatro milhas em West Palm Beach e uma rota de uma milha em Boca Raton por meio de sua tecnologia de m
Recomendações de tópicos especiais relacionados
Comentários (3)
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

Geoff Ralston, uma figura proeminente no mundo das startups por meio de sua longa associação com a Y Combinator, voltou oficialmente a investir ativamente, conforme anunciou na quinta-feira.
Seu novo fundo, denominado Safe Artificial Intelligence Fund (SAIF), reflete sua missão principal e, ao mesmo tempo, serve como um acrônimo inteligente.
De acordo com o site do fundo, Ralston tem como alvo startups dedicadas a "aumentar a segurança e a proteção da IA e sua implementação responsável". Ele pretende emitir cheques de US$ 100.000 usando um acordo SAFE - "trocadilho intencional", ele observa - com um limite de avaliação de US$ 10 milhões. Um SAFE, notoriamente desenvolvido pela Y Combinator, é um acordo simples para patrimônio futuro que adia a avaliação até uma rodada de financiamento posterior.
Embora o interesse do capital de risco em startups de IA seja generalizado, a abordagem de Ralston é nitidamente centrada na IA segura, um foco que ele reconhece ser intencionalmente amplo.
"A maioria dos projetos de IA atuais é projetada para resolver problemas, aumentar a eficiência ou criar novos recursos. Embora não sejam inerentemente inseguros, a segurança não é sua principal prioridade", explicou Ralston ao TechCrunch. "Minha meta é financiar startups em que a IA segura seja o objetivo principal, conforme defini em termos bem amplos."
Seu escopo de investimento inclui empresas focadas em tornar a IA mais segura, como as que melhoram a transparência na tomada de decisões sobre IA ou estabelecem referências de segurança. Ele também abrange ferramentas que protegem a propriedade intelectual, garantem a conformidade regulatória, combatem a desinformação e detectam ataques impulsionados pela IA. Além disso, ele está interessado em ferramentas funcionais de IA projetadas com segurança incorporada, como sistemas avançados de previsão de IA ou plataformas de negociação baseadas em IA que protegem os segredos corporativos.
Embora isso possa se assemelhar à tese de investimento de outros VCs com foco em IA, Ralston está excluindo certas áreas. Um exemplo claro são os sistemas de armas totalmente autônomos.
"Há aplicações inegavelmente inseguras de IA, como a criação de armas biológicas ou o gerenciamento de armas convencionais sem supervisão humana", afirmou.
Na verdade, ele pretende apoiar "sistemas de segurança de armas" que possam identificar ou impedir ataques de armas controladas por IA.
Essa posição apresenta uma perspectiva contrastante em relação a muitos fundadores e investidores atuais em tecnologia de defesa. Como o TechCrunch já cobriu, alguns desenvolvedores de armas com IA estão cada vez mais defendendo sistemas que operem independentemente do controle humano.
Apesar do cenário lotado de investimentos em IA, Ralston acredita que seus laços com a Y Combinator podem lhe dar uma vantagem. Ele deixou a YC em 2022 após um mandato de três anos como presidente - sucedido por Garry Tan - e mais de dez anos como consultor.
Ralston planeja oferecer o mesmo tipo de orientação que forneceu na renomada aceleradora de startups, incluindo orientação sobre como se candidatar à Y Combinator. Ele também promete ajudar as empresas do portfólio a acessar sua ampla rede de investidores.
Ralston não revelou o tamanho do fundo, o número de startups que planeja apoiar ou a identidade de seus sócios limitados.
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





Lar






