La coalition technologique s'oppose à l'abandon par OpenAI de son statut d'organisation à but non lucratif

Une coalition influente d'experts en intelligence artificielle, dont d'anciens membres du personnel de l'OpenAI, a exprimé de sérieuses inquiétudes quant au fait que l'organisation s'éloigne des principes fondateurs de l'association à but non lucratif.

Inquiétudes concernant la gouvernance ouverte

Une lettre officielle adressée aux autorités de Californie et du Delaware fait état de profondes inquiétudes quant aux changements structurels susceptibles de compromettre la mission humanitaire initiale de l'OpenAI. Le groupe de signataires, composé de chercheurs en intelligence artificielle, de juristes, de dirigeants d'organisations à but non lucratif et de spécialistes de la gouvernance d'entreprise, soutient que le passage proposé à un modèle de société d'utilité publique compromet les protections essentielles établies dans la charte de l'OpenAI.

Des origines motivées par une mission menacée

Incorporée à l'origine avec des intentions non lucratives claires, l'objectif fondamental de l'OpenAI reste de "développer l'intelligence artificielle générale au profit de l'humanité" sans privilégier les intérêts privés. Cet engagement fondamental est aujourd'hui menacé de dilution par la restructuration prévue de l'entreprise.

La transformation actuellement envisagée consisterait essentiellement à transférer l'autorité de gouvernance de l'entité à but non lucratif d'origine supervisant l'OpenAI à une nouvelle structure de société d'utilité publique basée dans le Delaware. Les critiques soutiennent que ce cadre restructuré pourrait subordonner les priorités humanitaires aux intérêts des actionnaires dans le développement des technologies transformatrices de l'AGI.

Cadre protecteur initial

Les dirigeants de l'OpenAI ont déjà mis en place plusieurs mesures de protection clés lors de l'introduction d'accords à but lucratif plafonné en 2019 afin d'attirer les investissements nécessaires tout en préservant l'intégrité de la mission :

• La société mère à but non lucratif a conservé le contrôle ultime des opérations.
• Limitations strictes des rendements financiers pour les investisseurs
• Supervision indépendante du conseil d'administration sans conflits financiers
• Obligations fiduciaires explicitement liées aux objectifs d'intérêt public
• Maintien de l'autorité de gouvernance de l'AGI par l'organisation à but non lucratif

Les fondateurs de l'organisation, parmi lesquels figurent des personnalités comme Sam Altman et Elon Musk, ont spécifiquement conçu cette structure hybride pour éviter que les pressions commerciales ne compromettent les priorités éthiques du développement de l'IA.

Compromis potentiels

Les experts avertissent que le modèle de gouvernance restructuré menace de nombreux aspects du cadre de protection original de l'OpenAI :

• Élimination possible des exigences exécutoires en matière d'intérêt public
• La suppression des limites de rendement pour les investisseurs pourrait détourner les ressources des objectifs humanitaires.
• Préservation incertaine des mécanismes de contrôle indépendants
• Transfert de l'autorité de gouvernance de l'AGI à une entité motivée par le profit
• affaiblissement potentiel des engagements de sécurité tels que les protocoles de collaboration.

Alors que l'OpenAI invoque les pressions concurrentielles pour justifier ces changements, ses détracteurs rétorquent que le maintien de l'intégrité de la mission devrait l'emporter sur les considérations commerciales pour une organisation créée en tant qu'entité d'intérêt public.

Demande d'examen réglementaire

La coalition a officiellement demandé une intervention réglementaire afin de

• suspendre la restructuration proposée dans l'attente d'un examen approprié
• d'exiger une justification transparente des changements de gouvernance
• Préserver les dispositions existantes en matière de contrôle des organisations à but non lucratif
• garantir le maintien d'un contrôle indépendant du développement de l'AGI.

"Cette restructuration pourrait effectivement transférer le contrôle d'une technologie potentiellement transformatrice d'une organisation axée sur sa mission à des intérêts corporatifs conventionnels", concluent les signataires, qui demandent instamment un examen réglementaire approfondi avant d'approuver des changements fondamentaux dans le modèle de gouvernance d'OpenAI.

Développements connexes dans l'industrie

Le débat se déroule parallèlement aux litiges juridiques en cours entre OpenAI et Elon Musk concernant des préoccupations similaires sur la préservation de la mission par rapport aux pressions de la commercialisation dans le développement de l'IA.