Maison
Anthropic, OpenAI et Google en pourparlers secrets pour créer un organisme de normes de sécurité en intelligence artificielle
Selon des sources du secteur, avant l’appel lancé le samedi dernier par Dario Amodei, PDG d’Anthropic, à une collaboration entre les entreprises d’intelligence artificielle pour des tests techniques et des audits, Anthropic, OpenAI et Google avaient déjà entamé des discussions en vue de la création d’un organe normatif de l’industrie de l’IA.
Selon des initiés, depuis juillet, des représentants de ces trois entreprises, travaillant en dessous du niveau des PDG, ont constitué un groupe de travail qui se réunit régulièrement. Plus tôt cette semaine, Sam Altman, PDG d’OpenAI, a déclaré lors d’une réunion générale qu’il soutenait la création d’une institution indépendante de test et d’audit de l’IA, arguant que les principaux laboratoires doivent établir de telles normes sans l’intervention du gouvernement américain. Bien qu’il ait initialement privilégié un soutien gouvernemental, il n’existe actuellement pas de consensus suffisant au sein de l’industrie, certaines entreprises s’opposant à cette démarche.
Débat sur trois modèles de régulation : FAA, FINRA ou autorégulation
Le samedi dernier, Dario Amodei a publié un article de blog intitulé « Nous devons ralentir le rythme du développement de pointe », appelant à un ralentissement des progrès de l’IA et à la création d’un mécanisme de supervision indépendant, l’autorégulation de l’industrie en étant un composant central. Il a suggéré que, tandis que les gouvernements élaborent des réglementations sur l’IA, les entreprises devraient d’abord adopter des normes de sécurité volontaires, le gouvernement pouvant potentiellement diriger ou médier le dialogue industriel. Il a également exhorté les grandes entreprises mondiales à accorder aux évaluateurs externes, tels que METR, un accès à une technologie équivalente à celle des employés internes, s’engageant à ce qu’Anthropic soit la première à le faire. De plus, il a plaidé pour des exemptions limitées aux lois antitrust afin de faciliter une collaboration sûre.
Demis Hassabis, qui vient de quitter ses fonctions de PDG de Google DeepMind, a qualifié cette proposition d’un pas dans la bonne direction, mais a noté que certains détails « nécessitent encore des précisions ». En juillet, il avait suggéré la création d’une organisation d’autorégulation de l’IA sur le modèle de l’Autorité de régulation de l’industrie financière des États-Unis (FINRA). Elon Musk, PDG de SpaceX, a également exprimé son soutien. Selon un rapport précédent de The Information, la Maison Blanche a diffusé un projet d’ordre exécutif proposant cet organe de régulation, mais n’a pas réussi à obtenir un soutien gouvernemental suffisant à la fin de l’été, mettant ainsi fin aux efforts connexes. David Sacks, ancien directeur de l’IA à la Maison Blanche, s’est ouvertement opposé à la création d’une institution similaire à la FINRA.
Réactions négatives : les critiques la qualifiant de « conception d’un cartel »
La proposition a fait l’objet de critiques importantes au sein de l’industrie. Aiden Gomez, PDG de Cohere, a exprimé son inquiétude que les grandes entreprises d’IA puissent conjointement fixer des règles pour restreindre les concurrents plus petits, déclarant : « Cette idée ressemble exactement à la conception d’un cartel. » Sacks a remis en question le caractère purement altruiste du ralentissement du développement, arguant que les risques de responsabilité produit fournissent déjà des incitations économiques pour prévenir les dommages.
Selon des initiés, les réunions du groupe de travail entre les trois entreprises concernant cette organisation normative dirigée par l’industrie se poursuivent, des sessions ayant eu lieu aussi récemment que la semaine dernière. La position de Meta reste floue ; son responsable de l’IA, Alexander Wang, a publié sur X que « l’alignement est la base de la construction d’une superintelligence personnelle pour toutes les personnes », sans soutenir ou s’opposer explicitement à la proposition plus large de Dario Amodei.
Article connexe
OpenAI lance une équipe spéciale pour enquêter sur l'utilisation inhabituelle de Codex
OpenAI a mis en place une équipe d’enquête dédiée à la suite des signalements d’utilisateurs concernant des utilisations irrégulières des quotas Codex. Les abonnés payants de ChatGPT signalent une baisse brutale de leurs quotas hebdomadaires, leurs s
Societe Generale mise sur l'IA pour réduire ses coûts jusqu'à 600 millions d'euros
Bloomberg rapporte que Société Générale SA anticipe que le rôle croissant de l’intelligence artificielle stimulera considérablement les initiatives de réduction des coûts.L’établissement parisien évalue le potentiel actuel d’économies liées à l’IA e
Comment créer des avatars parlants IA gratuits
Maîtrise de la personnalisation des avatars Roblox : Un guide inspiré par Karl JacobsIntroductionAmélioration de votre avatarNaviguer dans l'éditeur d'avatarParcourir les tendancesPersonnaliser votre personnageOutils de recherche et de filtrage
Recommandations de sujets spéciaux liés
commentaires (0)
Selon des sources du secteur, avant l’appel lancé le samedi dernier par Dario Amodei, PDG d’Anthropic, à une collaboration entre les entreprises d’intelligence artificielle pour des tests techniques et des audits, Anthropic, OpenAI et Google avaient déjà entamé des discussions en vue de la création d’un organe normatif de l’industrie de l’IA.
Selon des initiés, depuis juillet, des représentants de ces trois entreprises, travaillant en dessous du niveau des PDG, ont constitué un groupe de travail qui se réunit régulièrement. Plus tôt cette semaine, Sam Altman, PDG d’OpenAI, a déclaré lors d’une réunion générale qu’il soutenait la création d’une institution indépendante de test et d’audit de l’IA, arguant que les principaux laboratoires doivent établir de telles normes sans l’intervention du gouvernement américain. Bien qu’il ait initialement privilégié un soutien gouvernemental, il n’existe actuellement pas de consensus suffisant au sein de l’industrie, certaines entreprises s’opposant à cette démarche.
Débat sur trois modèles de régulation : FAA, FINRA ou autorégulation
Le samedi dernier, Dario Amodei a publié un article de blog intitulé « Nous devons ralentir le rythme du développement de pointe », appelant à un ralentissement des progrès de l’IA et à la création d’un mécanisme de supervision indépendant, l’autorégulation de l’industrie en étant un composant central. Il a suggéré que, tandis que les gouvernements élaborent des réglementations sur l’IA, les entreprises devraient d’abord adopter des normes de sécurité volontaires, le gouvernement pouvant potentiellement diriger ou médier le dialogue industriel. Il a également exhorté les grandes entreprises mondiales à accorder aux évaluateurs externes, tels que METR, un accès à une technologie équivalente à celle des employés internes, s’engageant à ce qu’Anthropic soit la première à le faire. De plus, il a plaidé pour des exemptions limitées aux lois antitrust afin de faciliter une collaboration sûre.
Demis Hassabis, qui vient de quitter ses fonctions de PDG de Google DeepMind, a qualifié cette proposition d’un pas dans la bonne direction, mais a noté que certains détails « nécessitent encore des précisions ». En juillet, il avait suggéré la création d’une organisation d’autorégulation de l’IA sur le modèle de l’Autorité de régulation de l’industrie financière des États-Unis (FINRA). Elon Musk, PDG de SpaceX, a également exprimé son soutien. Selon un rapport précédent de The Information, la Maison Blanche a diffusé un projet d’ordre exécutif proposant cet organe de régulation, mais n’a pas réussi à obtenir un soutien gouvernemental suffisant à la fin de l’été, mettant ainsi fin aux efforts connexes. David Sacks, ancien directeur de l’IA à la Maison Blanche, s’est ouvertement opposé à la création d’une institution similaire à la FINRA.
Réactions négatives : les critiques la qualifiant de « conception d’un cartel »
La proposition a fait l’objet de critiques importantes au sein de l’industrie. Aiden Gomez, PDG de Cohere, a exprimé son inquiétude que les grandes entreprises d’IA puissent conjointement fixer des règles pour restreindre les concurrents plus petits, déclarant : « Cette idée ressemble exactement à la conception d’un cartel. » Sacks a remis en question le caractère purement altruiste du ralentissement du développement, arguant que les risques de responsabilité produit fournissent déjà des incitations économiques pour prévenir les dommages.
Selon des initiés, les réunions du groupe de travail entre les trois entreprises concernant cette organisation normative dirigée par l’industrie se poursuivent, des sessions ayant eu lieu aussi récemment que la semaine dernière. La position de Meta reste floue ; son responsable de l’IA, Alexander Wang, a publié sur X que « l’alignement est la base de la construction d’une superintelligence personnelle pour toutes les personnes », sans soutenir ou s’opposer explicitement à la proposition plus large de Dario Amodei.
OpenAI lance une équipe spéciale pour enquêter sur l'utilisation inhabituelle de Codex
OpenAI a mis en place une équipe d’enquête dédiée à la suite des signalements d’utilisateurs concernant des utilisations irrégulières des quotas Codex. Les abonnés payants de ChatGPT signalent une baisse brutale de leurs quotas hebdomadaires, leurs s
Societe Generale mise sur l'IA pour réduire ses coûts jusqu'à 600 millions d'euros
Bloomberg rapporte que Société Générale SA anticipe que le rôle croissant de l’intelligence artificielle stimulera considérablement les initiatives de réduction des coûts.L’établissement parisien évalue le potentiel actuel d’économies liées à l’IA e
Comment créer des avatars parlants IA gratuits
Maîtrise de la personnalisation des avatars Roblox : Un guide inspiré par Karl JacobsIntroductionAmélioration de votre avatarNaviguer dans l'éditeur d'avatarParcourir les tendancesPersonnaliser votre personnageOutils de recherche et de filtrage











