Geoff Ralston, de Y Combinator, lance un nouveau fonds pour la sécurité de l'IA

Geoff Ralston, figure emblématique du monde des start-ups grâce à sa longue association avec Y Combinator, est officiellement revenu à l'investissement actif, comme il l'a annoncé jeudi.

Son nouveau fonds, baptisé Safe Artificial Intelligence Fund (SAIF), reflète sa mission principale tout en servant d'acronyme astucieux.

Selon le site web du fonds, M. Ralston cible les startups qui se consacrent à "l'amélioration de la sûreté, de la sécurité et du déploiement responsable de l'IA". Il a l'intention d'émettre des chèques de 100 000 dollars à l'aide d'un accord SAFE - "un jeu de mots", précise-t-il - avec un plafond d'évaluation de 10 millions de dollars. Un SAFE, développé par Y Combinator, est un accord simple pour des actions futures qui reporte l'évaluation jusqu'à un tour de financement ultérieur.

Si l'intérêt du capital-risque pour les startups d'IA est largement répandu, l'approche de Ralston est clairement centrée sur l'IA sûre, un objectif qu'il reconnaît être intentionnellement large.

"La plupart des projets d'IA sont aujourd'hui conçus pour résoudre des problèmes, améliorer l'efficacité ou créer de nouvelles capacités. Bien qu'ils ne soient pas dangereux en soi, la sécurité n'est pas leur principale priorité", a expliqué Ralston à TechCrunch. "Mon objectif est de financer des startups dont l'objectif principal est une IA sûre, comme je l'ai défini en termes très généraux.

Son champ d'investissement comprend les entreprises qui s'efforcent de rendre l'IA plus sûre, comme celles qui améliorent la transparence dans la prise de décision en matière d'IA ou qui établissent des critères de sécurité. Il couvre également les outils qui protègent la propriété intellectuelle, garantissent la conformité réglementaire, luttent contre la désinformation et détectent les attaques menées par l'IA. En outre, il s'intéresse aux outils d'IA fonctionnels conçus avec une sécurité intégrée, comme les systèmes avancés de prévision de l'IA ou les plateformes de négociation alimentées par l'IA qui protègent les secrets d'entreprise.

Bien que cela puisse ressembler à la thèse d'investissement d'autres sociétés de capital-risque axées sur l'IA, M. Ralston exclut certains domaines. Les systèmes d'armes entièrement autonomes en sont un bon exemple.

"Il existe indéniablement des applications dangereuses de l'IA, telles que la conception d'armes biologiques ou la gestion d'armes conventionnelles sans surveillance humaine", a-t-il déclaré.

En fait, il souhaite soutenir les "systèmes de sécurité des armes" capables d'identifier ou de prévenir les attaques des armes contrôlées par l'IA.

Cette position présente une perspective contrastée par rapport à de nombreux fondateurs et investisseurs actuels de technologies de défense. Comme l'a rapporté TechCrunch, certains développeurs d'armes d'IA préconisent de plus en plus des systèmes qui fonctionnent indépendamment du contrôle humain.

Malgré l'encombrement du paysage de l'investissement dans l'IA, Ralston pense que ses liens avec Y Combinator peuvent lui donner une longueur d'avance. Il a quitté YC en 2022 après un mandat de trois ans en tant que président (remplacé par Garry Tan) et plus de dix ans en tant que conseiller.

M. Ralston prévoit d'offrir le même type de mentorat que celui qu'il a fourni au célèbre accélérateur de startups, y compris des conseils sur la candidature à Y Combinator. Il promet également d'aider les entreprises de son portefeuille à accéder à son vaste réseau d'investisseurs.

Ralston n'a pas révélé la taille du fonds, le nombre de startups qu'il prévoit de soutenir, ni l'identité de ses commanditaires.