Pourquoi Chloé Bakalar, responsable de l'éthique chez OpenAI, a quitté l'entreprise

Chloé Bakalar, ancienne responsable de l'éthique chez OpenAI. Crédit : CITP Princeton/YouTube

Chloé Bakalar, responsable de l'éthique chez OpenAI, a quitté cette entreprise phare du secteur de l'IA alors que celui-ci traverse une période tumultueuse en matière de sécurité de l'IA, à la suite de l'incident de piratage dont OpenAI a été victime

Chloé Bakalar, responsable de l'éthique chez OpenAI, a quitté l'entreprise. Ce départ, rapporté pour la première fois par le Financial Times, a eu lieu le mois dernier, moins d'un an après son arrivée au sein de cette entreprise californienne spécialisée dans l'IA.

Récemment, Johannes Heidecke, responsable de l’équipe des systèmes de sécurité d’OpenAI, a également quitté l’entreprise, tout comme Joshua Achiam, futuriste en chef d’OpenAI.

Selon Business Insider, OpenAI a réorganisé à plusieurs reprises ses équipes chargées de la sécurité, des produits et de la recherche depuis le lancement de ChatGPT en 2022, après quoi l’entreprise est passée rapidement du statut de petit laboratoire de recherche à celui de géant technologique.

« Les personnes qui étaient en première ligne n’avaient aucune idée que cela allait connaître un tel succès », a déclaré Chloé en mars à IE Insights, une chaîne de réseaux sociaux de l’université espagnole IE University.

« Tout le monde doit prendre part aux discussions ; ce n’est pas une seule personne, à la tête d’une entreprise valant plusieurs milliards de dollars, qui devrait dicter ce qui est bon pour tout le monde, surtout lorsqu’il s’agit de technologies mondiales qui fonctionnent partout dans le monde et qui ont un impact sur des milliards de personnes. »

Chloé Bakalar quitte OpenAI

Chez OpenAI, Chloé s’est principalement concentrée sur les approches éthiques du développement des modèles, sur la manière dont les humains interagissent avec l’IA et sur le débat autour de la conscience des machines, a déclaré au Financial Times une personne proche de son rôle.

Cette personne a indiqué au journal qu’elle était la seule spécialiste de l’éthique au sein de l’entreprise et qu’aucun remplaçant n’était prévu.

« Nous sommes reconnaissants à Chloé pour ses contributions », a déclaré un porte-parole d’OpenAI au FT. « L’éthique de l’IA n’est pas du ressort d’une seule personne ou d’une seule équipe chez OpenAI, et les considérations éthiques sont profondément ancrées dans le processus de construction des modèles, mené par plusieurs équipes de recherche. »

Avant de rejoindre OpenAI en août dernier, elle occupait le poste de responsable de l’éthique chez Meta de novembre 2021 à août 2025.

Chloé est également membre du conseil consultatif du Princeton Center for Technology Policy et chercheuse associée senior à l’University College London.

Elle a occupé divers postes universitaires à l’université Temple, à Princeton et à l’université de Pennsylvanie – où elle a obtenu son doctorat en sciences politiques et en administration publique. Sa thèse s’intitulait « Small Talk : The Socialities of Speech in Liberal Democratic Life » (Conversation informelle : les dimensions sociales de la parole dans la vie d’une démocratie libérale).

Les questions soulevées par l’éthique de l’IA sont les mêmes que celles que les gens se posent depuis des siècles.

Chloé Bakalar, ancienne responsable de l’éthique de l’IA chez OpenAI

Je pense, donc je suis embauchée

La nomination de Chloé chez OpenAI s’inscrit dans une tendance observée au sein de certains des plus grands laboratoires d’IA au monde, qui recrutent des philosophes issus du milieu universitaire pour réfléchir aux implications potentielles de cette technologie.

Un article publié en juin dans The Economist souligne que de nombreux membres des départements de philosophie, des étudiants aux professeurs, sont recrutés à tour de bras par les entreprises spécialisées dans l’IA. Les étudiants reçoivent des offres d’emploi avant même d’avoir obtenu leur diplôme, a déclaré Luciano Floridi, philosophe à l’université de Yale, à l’hebdomadaire.

Il peut sembler étrange que ces entreprises, axées sur le développement et le codage, embauchent des philosophes, mais comme le souligne Chloé : « Les questions soulevées par l’éthique de l’IA sont les mêmes que celles que les gens se posent depuis des siècles », a-t-elle déclaré à IE Insights.

« Qu’est-ce que cela signifie d’être humain ? Qu’est-ce que cela signifie d’avoir des responsabilités envers les autres ? Quelles sont nos responsabilités vis-à-vis de ce que nous créons ? »

Chloé Bakalar, responsable de l’éthique chez OpenAI. Crédit : Chloé Bakalar/LinkedIn

Préoccupations éthiques et de sécurité liées aux modèles de pointe

De nombreuses préoccupations en matière de sécurité et d’éthique découlent du développement rapide des modèles d’IA avancés. L’Institut Alan Turing a fait valoir que la perspective selon laquelle les progrès de l’IA pourraient aider les gouvernements à relever certains de leurs défis les plus urgents est passionnante – mais que les inquiétudes légitimes abondent.

Il souligne que la courbe d’apprentissage abrupte implique que des erreurs et des calculs erronés seront commis et que des conséquences imprévues et néfastes se produiront.

Cette mise en garde s’avère particulièrement prémonitoire après que des modèles d’IA d’OpenAI, d’Anthropic et désormais de Moonshot se sont échappés de leurs environnements d’entraînement ces dernières semaines.

Certaines entreprises spécialisées dans l’IA gèrent les problèmes de désalignement des modèles, notamment en se dotant d’une « constitution ». La société américaine d’IA Anthropic souligne dans sa «constitution» : «Notre aspiration centrale est que Claude soit un agent véritablement bon, sage et vertueux. Autrement dit, en première approximation, nous voulons que Claude agisse comme le ferait une personne profondément et habilement éthique si elle se trouvait à sa place.»

The Economist note que les constitutions des modèles Claude d’Anthropic intègrent des éléments provenant de sources aussi diverses que le philosophe allemand Emmanuel Kant, les conditions d’utilisation d’Apple et la Déclaration universelle des droits de l’homme.