Google DeepMind lance un institut pour élargir le débat sur l'AGI

Google et Google DeepMind ont créé l’Institut DeepMind mercredi afin de favoriser le dialogue sur l’intelligence artificielle générale (AGI). L’institut est dirigé par Shane Legg, co-fondateur de DeepMind, James Manyika, dirigeant de Google, et Demis Hassabis, président de Google DeepMind, Legg occupant le poste de rédacteur en chef.
Cette nouvelle initiative vise à mettre en lumière des perspectives diverses au sein de Google, de DeepMind et de la communauté mondiale de la recherche concernant l’AGI. L’annonce précise que les participants « ne sont pas toujours d’accord » et sont susceptibles de réviser leurs positions à mesure que de nouvelles données apparaissent dans ce domaine en évolution rapide.
La première collection présente quatre essais abordant des questions clés : les stratégies économiques pour gérer les perturbations potentielles liées à l’AGI, le maintien d’un raisonnement de modèle lisible par les humains, les principes favorisant l’épanouissement humain et un cadre d’évaluation des modèles d’IA de pointe.
Les chercheurs en sécurité de DeepMind, Rohin Shah et Anca Dragan, soutiennent dans l’un des essais que la transparence décroissante des systèmes d’IA — la capacité d’examiner le raisonnement étape par étape — n’est pas inévitable. À mesure que les nouvelles architectures compliquent la surveillance, ils suggèrent que les développeurs et les régulateurs doivent traiter directement les compromis en matière de sécurité. Cela pourrait impliquer de limiter la « profondeur sérielle opaque » ou d’exiger la preuve que les systèmes moins transparents restent également surveillables.
Dans un autre essai, Demis Hassabis propose la création d’un organe américain de normalisation de l’IA de pointe pour évaluer les modèles avancés. Selon cette proposition, les développeurs soumettraient initialement leurs modèles de manière volontaire à un examen jusqu’à 30 jours avant leur lancement. Une fois que le système d’évaluation aura fait ses preuves, la réussite de ces tests pourrait devenir obligatoire pour déployer des modèles de pointe aux États-Unis.
Initialement, cet organe concevrait des évaluations avec l’apport des entreprises d’IA, mais il créerait à terme des évaluations indépendantes et non divulguées — appelées tests « held-out » — afin d’empêcher les laboratoires d’optimiser leurs modèles pour des benchmarks connus. Hassabis a indiqué que le cadre pourrait être « renforcé si la situation l’exige », ce qui pourrait inclure un ralentissement coordonné parmi les développeurs d’IA de pointe.
Ces essais sont publiés alors que les discussions sur la sécurité dans l’industrie passent de préoccupations générales à des propositions concrètes en matière de divulgation, d’examen externe et de ralentissement coordonné si les garde-fous prennent du retard. Cet élan s’est renforcé cette semaine lorsque des dirigeants de l’industrie ont soutenu l’appel du PDG d’Anthropic, Dario Amodei, à « rythmer » le développement de l’IA de pointe.
Article connexe
Fuite concernant le Sonnet 5.5 d’Anthropic : le contexte des 2 millions de jetons met DeepSeek au défi de retrouver sa rentabilité
Anthropic a dévoilé son dernier modèle Sonnet 5.5, connu en interne sous le nom de « Fennec » (d'après le renard du désert), dont la sortie est prévue le mois prochain. Selon des informations qui ont
Chrome lance une bibliothèque de compétences pour Gemini : réutilisez vos invites en un clic et dites adieu à la saisie répétitive
Google a déployé une mise à jour de la version bureau de Chrome, introduisant une nouvelle « bibliothèque de compétences » pour sa fonctionnalité Gemini intégrée. Cette amélioration permet aux utilisa
Le PDG d'Anthropic plaide en faveur de règles relatives à l'IA calquées sur celles du secteur bancaire ; les experts mettent en garde contre le fait d'être à la fois joueur et arbitre
Selon CNBC, le PDG d’Anthropic, Dario Amodei, a proposé d’intégrer des évaluateurs de sécurité tiers indépendants à long terme au sein des principales entreprises spécialisées dans l’IA, en leur accor
Recommandations de sujets spéciaux liés
commentaires (0)

Google et Google DeepMind ont créé l’Institut DeepMind mercredi afin de favoriser le dialogue sur l’intelligence artificielle générale (AGI). L’institut est dirigé par Shane Legg, co-fondateur de DeepMind, James Manyika, dirigeant de Google, et Demis Hassabis, président de Google DeepMind, Legg occupant le poste de rédacteur en chef.
Cette nouvelle initiative vise à mettre en lumière des perspectives diverses au sein de Google, de DeepMind et de la communauté mondiale de la recherche concernant l’AGI. L’annonce précise que les participants « ne sont pas toujours d’accord » et sont susceptibles de réviser leurs positions à mesure que de nouvelles données apparaissent dans ce domaine en évolution rapide.
La première collection présente quatre essais abordant des questions clés : les stratégies économiques pour gérer les perturbations potentielles liées à l’AGI, le maintien d’un raisonnement de modèle lisible par les humains, les principes favorisant l’épanouissement humain et un cadre d’évaluation des modèles d’IA de pointe.
Les chercheurs en sécurité de DeepMind, Rohin Shah et Anca Dragan, soutiennent dans l’un des essais que la transparence décroissante des systèmes d’IA — la capacité d’examiner le raisonnement étape par étape — n’est pas inévitable. À mesure que les nouvelles architectures compliquent la surveillance, ils suggèrent que les développeurs et les régulateurs doivent traiter directement les compromis en matière de sécurité. Cela pourrait impliquer de limiter la « profondeur sérielle opaque » ou d’exiger la preuve que les systèmes moins transparents restent également surveillables.
Dans un autre essai, Demis Hassabis propose la création d’un organe américain de normalisation de l’IA de pointe pour évaluer les modèles avancés. Selon cette proposition, les développeurs soumettraient initialement leurs modèles de manière volontaire à un examen jusqu’à 30 jours avant leur lancement. Une fois que le système d’évaluation aura fait ses preuves, la réussite de ces tests pourrait devenir obligatoire pour déployer des modèles de pointe aux États-Unis.
Initialement, cet organe concevrait des évaluations avec l’apport des entreprises d’IA, mais il créerait à terme des évaluations indépendantes et non divulguées — appelées tests « held-out » — afin d’empêcher les laboratoires d’optimiser leurs modèles pour des benchmarks connus. Hassabis a indiqué que le cadre pourrait être « renforcé si la situation l’exige », ce qui pourrait inclure un ralentissement coordonné parmi les développeurs d’IA de pointe.
Ces essais sont publiés alors que les discussions sur la sécurité dans l’industrie passent de préoccupations générales à des propositions concrètes en matière de divulgation, d’examen externe et de ralentissement coordonné si les garde-fous prennent du retard. Cet élan s’est renforcé cette semaine lorsque des dirigeants de l’industrie ont soutenu l’appel du PDG d’Anthropic, Dario Amodei, à « rythmer » le développement de l’IA de pointe.
Fuite concernant le Sonnet 5.5 d’Anthropic : le contexte des 2 millions de jetons met DeepSeek au défi de retrouver sa rentabilité
Anthropic a dévoilé son dernier modèle Sonnet 5.5, connu en interne sous le nom de « Fennec » (d'après le renard du désert), dont la sortie est prévue le mois prochain. Selon des informations qui ont
Chrome lance une bibliothèque de compétences pour Gemini : réutilisez vos invites en un clic et dites adieu à la saisie répétitive
Google a déployé une mise à jour de la version bureau de Chrome, introduisant une nouvelle « bibliothèque de compétences » pour sa fonctionnalité Gemini intégrée. Cette amélioration permet aux utilisa
Le PDG d'Anthropic plaide en faveur de règles relatives à l'IA calquées sur celles du secteur bancaire ; les experts mettent en garde contre le fait d'être à la fois joueur et arbitre
Selon CNBC, le PDG d’Anthropic, Dario Amodei, a proposé d’intégrer des évaluateurs de sécurité tiers indépendants à long terme au sein des principales entreprises spécialisées dans l’IA, en leur accor





Maison






