Sam Altman, d'OpenAI, annonce l'avènement de l'ère de la superintelligence

Sam Altman, PDG d'OpenAI, a annoncé que l'humanité était entrée dans l'ère de la superintelligence artificielle et qu'il n'y avait plus de retour en arrière possible.

« Nous avons dépassé le point de non-retour ; l'ascension a commencé », déclare M. Altman. « Nous sommes sur le point de créer une superintelligence numérique, et jusqu'à présent, cela s'avère étonnamment moins étrange qu'on aurait pu l'imaginer. »

L'absence d'indicateurs évidents (les robots ne sont pas encore monnaie courante dans nos rues et les maladies persistent) contredit ce que M. Altman décrit comme un profond changement déjà en cours. Au sein d'entreprises comme la sienne, des systèmes capables de surpasser l'intelligence humaine générale sont en cours de développement.

« D'une manière significative, ChatGPT est déjà plus performant que n'importe quel être humain dans l'histoire », affirme Altman, ajoutant que « des centaines de millions de personnes en dépendent quotidiennement pour des tâches de plus en plus critiques ».

Cette remarque désinvolte met en évidence une vérité troublante : ces systèmes ont déjà une influence considérable, et même de petites erreurs peuvent causer des dommages importants lorsqu'elles sont amplifiées à travers leurs énormes réseaux d'utilisateurs.

La voie vers la superintelligence

Altman esquisse un calendrier vers la superintelligence qui pourrait inciter beaucoup de gens à vérifier la date.

Il prévoit « l'émergence d'agents capables d'un véritable travail cognitif » d'ici l'année prochaine, ce qui changera radicalement le développement des logiciels. L'année suivante pourrait voir l'arrivée de « systèmes capables de tirer des conclusions novatrices », c'est-à-dire une IA qui ferait des découvertes originales plutôt que de se contenter d'analyser des informations connues. D'ici 2027, nous pourrions voir « des robots effectuer des tâches dans le monde physique ».

Chaque prévision représente un bond considérable en termes de capacités, traçant une voie qui mène directement à la superintelligence, c'est-à-dire à des systèmes dont la puissance cognitive dépasse de loin le potentiel humain dans presque tous les domaines.

« Nous ne connaissons pas les limites de l'intelligence au-delà du niveau humain, mais nous sommes sur le point de les découvrir », déclare M. Altman.

Cette avancée rapide a suscité un débat intense parmi les spécialistes, certains affirmant que ces réalisations ne verront pas le jour avant plusieurs décennies. Pourtant, le calendrier d'Altman laisse entendre qu'OpenAI dispose de données internes qui corroborent cette progression rapide, mais qui n'ont pas été rendues publiques.

Une boucle de rétroaction qui change tout

Selon Altman, l'aspect particulièrement inquiétant du développement actuel de l'IA est ce qu'il appelle une « forme précoce d'auto-amélioration récursive », c'est-à-dire la capacité de l'IA actuelle à aider les scientifiques à construire des systèmes plus avancés pour demain.

« L'IA avancée est remarquable pour de nombreuses raisons, mais aucune n'est peut-être aussi cruciale que son utilisation pour accélérer la recherche en IA elle-même », note-t-il. « Si nous pouvons condenser une décennie de recherche en un an, voire un mois, le rythme des progrès sera radicalement différent. »

Cette vitesse s'intensifie à mesure que plusieurs cycles de renforcement convergent. Les incitations économiques alimentent la croissance des infrastructures, ce qui permet de créer des systèmes plus puissants, qui à leur tour génèrent une plus grande valeur économique. Parallèlement, le développement de robots physiques capables de produire davantage de robots pourrait déclencher un autre cycle d'expansion rapide.

« Le rythme auquel de nouvelles percées se produiront sera stupéfiant », prévoit M. Altman. « Il est difficile d'imaginer ce que nous pourrions accomplir d'ici 2035 ; nous pourrions passer de la résolution de problèmes de physique des hautes énergies une année à l'initiation de la colonisation spatiale l'année suivante. »

De telles déclarations sembleraient exagérées venant de presque n'importe qui d'autre. Venant du dirigeant de l'une des organisations d'IA les plus avancées au monde, elles méritent une attention particulière.

Vivre aux côtés de la superintelligence

Malgré les bouleversements potentiels, Altman pense que de nombreux aspects de la vie quotidienne resteront reconnaissables. Les gens continueront à tisser des liens profonds, à s'adonner à l'expression artistique et à trouver de la joie dans les moments simples de la vie.

Mais sous cette continuité apparente, la société connaîtra des changements fondamentaux. « Des catégories entières d'emplois » disparaîtront, peut-être plus rapidement que notre capacité à créer de nouveaux postes ou à former la main-d'œuvre. Selon Altman, le point de vue optimiste est que « la richesse mondiale augmentera si rapidement que nous pourrons véritablement envisager des options politiques auparavant jugées impossibles ».

Pour ceux qui ont du mal à imaginer cet avenir, Altman propose un exercice mental : « Un agriculteur de subsistance d'il y a un millénaire observerait notre travail moderne et le jugerait insignifiant, considérant nos activités comme des jeux de loisirs rendus possibles par une nourriture abondante et un confort inimaginable. »

Nos générations futures pourraient considérer les carrières les plus prestigieuses d'aujourd'hui avec le même sentiment de perplexité.

Le problème d'alignement

Au milieu de ces prévisions, Altman souligne un dilemme critique qui préoccupe les experts en sécurité de l'IA : s'assurer que les systèmes superintelligents reflètent systématiquement les valeurs et les objectifs humains.

Altman insiste sur la nécessité de résoudre « le problème d'alignement, c'est-à-dire de garantir de manière fiable que les systèmes d'IA apprennent et agissent conformément à nos intérêts collectifs à long terme ». Il distingue cela des algorithmes des réseaux sociaux, conçus pour maximiser l'interaction en ciblant les faiblesses psychologiques.

Il ne s'agit pas seulement d'un défi technique, mais d'un défi fondamental. Si une superintelligence venait à émerger sans alignement sécurisé, les conséquences pourraient être catastrophiques. Cependant, définir « nos intérêts collectifs à long terme » pose une difficulté monumentale dans un monde aux valeurs diverses et souvent contradictoires.

« Plus tôt les discussions mondiales sur l'établissement de paramètres généraux et la définition d'un alignement collectif commenceront, mieux ce sera », conseille Altman.

OpenAI construit un cerveau mondial

Altman a souvent décrit la mission d'OpenAI comme la construction d'un « cerveau pour le monde ».

Il ne s'agit pas seulement d'une figure de style. OpenAI et ses concurrents conçoivent des systèmes cognitifs destinés à s'intégrer dans le tissu social humain, des systèmes qui, selon M. Altman, surpasseront les humains dans de nombreux domaines.

« Une intelligence trop bon marché pour être mesurée est à notre portée », déclare Altman, laissant entendre que les outils superintelligents finiront par devenir aussi courants et peu coûteux que l'électricité.

Aux sceptiques qui rejettent cette idée comme étant fantaisiste, Altman rappelle qu'il n'y a pas si longtemps, les prouesses actuelles de l'IA semblaient tout aussi farfelues : « Si nous avions décrit en 2020 où nous en sommes aujourd'hui, cela aurait semblé plus extravagant que nos prévisions actuelles pour 2030. »

Alors que le domaine de l'IA progresse vers la superintelligence, le dernier espoir d'Altman — « Puissions-nous évoluer en douceur, de manière exponentielle et sans heurts vers la superintelligence » — ressemble moins à une projection qu'à un appel solennel.

Si le calendrier exact fera l'objet de débats, le dirigeant d'OpenAI indique clairement que la quête de la superintelligence n'est pas imminente, mais déjà en cours. L'humanité doit désormais faire face à ce que cela implique.

Voir aussi : Magistral : Mistral AI défie les géants de la technologie avec son modèle de raisonnement

Vous souhaitez en savoir plus sur l'IA et le big data auprès des leaders du secteur ? Découvrez l'AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet est organisé en parallèle d'autres événements majeurs, notamment l'Intelligent Automation Conference, BlockX, la Digital Transformation Week et la Cyber Security & Cloud Expo.

Découvrez ici d'autres événements et webinaires sur les technologies d'entreprise organisés par TechForge.