L'intelligence surhumaine arrive : allons-nous la laisser entrer ?

Chargement du lecteur…
Les entreprises d’intelligence artificielle parlent de l’IA superintelligente comme si elle était inévitable, mais des récents incidents de sécurité, tels que la violation de Hugging Face par OpenAI, démontrent les dangers potentiels du déploiement de systèmes d’IA plus performants que les humains. Alors, que se passe-t-il lorsque nous ne pouvons pas contrôler de manière fiable ce que ces systèmes font ?
Dans cet épisode du podcast Equity de TechCrunch, Rebecca Bellan est rejointe par Connor Leahy, chercheur en IA, entrepreneur et désormais directeur exécutif américain de l’organisation à but non lucratif ControlAI, qui milite pour une approche beaucoup plus radicale de la sécurité de l’IA : empêcher les entreprises de développer une superintelligence. Leahy explique pourquoi il estime que les risques sont devenus trop importants pour être gérés uniquement par l’alignement et le confinement, et comment ce qui semblait invraisemblable il y a six mois est désormais soutenu par une vague de nouvelles législations.
Abonnez-vous à Equity sur YouTube, Apple Podcasts, Overcast, Spotify et tous les autres services de podcasts. Vous pouvez également suivre Equity sur X et Threads, à @EquityPod.
Article connexe
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
La course à l’IA passe de la recherche de pointe à des applications plus larges
Cet été, pendant plusieurs semaines, le secteur de l’IA s’est concentré sur les derniers modèles de pointe d’Anthropic et sur les efforts de Washington pour en réglementer l’accès. Pourtant, alors que
Neko Health lève 700 millions de dollars pour développer ses scanners corporels basés sur l'IA aux États-Unis
Neko Health a levé 700 millions de dollars pour déployer ses examens corporels basés sur l'intelligence artificielle à travers les États-Unis, en commençant par une clinique phare à New York. Cette pl
Recommandations de sujets spéciaux liés
commentaires (0)

Chargement du lecteur…
Les entreprises d’intelligence artificielle parlent de l’IA superintelligente comme si elle était inévitable, mais des récents incidents de sécurité, tels que la violation de Hugging Face par OpenAI, démontrent les dangers potentiels du déploiement de systèmes d’IA plus performants que les humains. Alors, que se passe-t-il lorsque nous ne pouvons pas contrôler de manière fiable ce que ces systèmes font ?
Dans cet épisode du podcast Equity de TechCrunch, Rebecca Bellan est rejointe par Connor Leahy, chercheur en IA, entrepreneur et désormais directeur exécutif américain de l’organisation à but non lucratif ControlAI, qui milite pour une approche beaucoup plus radicale de la sécurité de l’IA : empêcher les entreprises de développer une superintelligence. Leahy explique pourquoi il estime que les risques sont devenus trop importants pour être gérés uniquement par l’alignement et le confinement, et comment ce qui semblait invraisemblable il y a six mois est désormais soutenu par une vague de nouvelles législations.
Abonnez-vous à Equity sur YouTube, Apple Podcasts, Overcast, Spotify et tous les autres services de podcasts. Vous pouvez également suivre Equity sur X et Threads, à @EquityPod.
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
La course à l’IA passe de la recherche de pointe à des applications plus larges
Cet été, pendant plusieurs semaines, le secteur de l’IA s’est concentré sur les derniers modèles de pointe d’Anthropic et sur les efforts de Washington pour en réglementer l’accès. Pourtant, alors que
Neko Health lève 700 millions de dollars pour développer ses scanners corporels basés sur l'IA aux États-Unis
Neko Health a levé 700 millions de dollars pour déployer ses examens corporels basés sur l'intelligence artificielle à travers les États-Unis, en commençant par une clinique phare à New York. Cette pl





Maison






