Maison
Hinton, pionnier de l'IA, met en garde : la course au profit des géants de la tech pourrait transformer les humains en « bébés » face à la superintelligence

Alors que la concurrence mondiale dans le domaine de l’IA s’intensifie, Geoffrey Hinton — lauréat du prix Nobel et « père de l’IA » — a lancé un nouvel avertissement sans détour. Dans une récente interview accordée à Fortune, il a souligné que les leaders technologiques d’aujourd’hui s’interrogent rarement sur les conséquences à long terme de leurs innovations, se laissant plutôt guider par la recherche de profits à court terme.
Hinton a observé un clivage profond entre les dirigeants et les chercheurs : les premiers se concentrent sur les résultats trimestriels, tandis que les ingénieurs s’attaquent à des tâches spécifiques telles que l’amélioration de la netteté des images ou du réalisme des vidéos. La question fondamentale — celle de l’avenir de l’humanité — est reléguée au second plan dans la course à la commercialisation.
Hinton classe les risques liés à l’IA en deux catégories distinctes :
L’utilisation abusive par des acteurs malveillants : les deepfakes, les cyberattaques et la conception de virus assistée par l’IA constituent déjà des menaces émergentes.
L’IA devenant incontrôlable : c’est là la préoccupation la plus profonde de Hinton. Il met en garde contre le fait qu’une fois que l’IA aura atteint le stade de la superintelligence, elle pourrait développer sa propre volonté de survie et de contrôle, rendant ainsi obsolète l’idée d’une supervision humaine.
Hinton avance une prévision effrayante : après avoir atteint la superintelligence, la probabilité que l’IA provoque l’extinction de l’humanité pourrait atteindre 10 % à 20 %. Pour contrer cela, il propose un mécanisme inspiré de la biologie : une approche fondée sur l’« instinct maternel ».
« Le seul exemple d’un être plus intelligent influencé par un être plus faible est l’influence d’un bébé sur sa mère. »
Article connexe
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés
Conformité des véhicules autonomes en Californie : une nouvelle ère marquée par les amendes, les zones de géolocalisation et 1 million de miles
Guident exploite une navette AuveTech dans le sud de la Floride, gérant un parcours de quatre miles à West Palm Beach et un parcours d’un mile à Boca Raton grâce à sa technologie de surveillance à dis
Recommandations de sujets spéciaux liés
commentaires (0)

Alors que la concurrence mondiale dans le domaine de l’IA s’intensifie, Geoffrey Hinton — lauréat du prix Nobel et « père de l’IA » — a lancé un nouvel avertissement sans détour. Dans une récente interview accordée à Fortune, il a souligné que les leaders technologiques d’aujourd’hui s’interrogent rarement sur les conséquences à long terme de leurs innovations, se laissant plutôt guider par la recherche de profits à court terme.
Hinton a observé un clivage profond entre les dirigeants et les chercheurs : les premiers se concentrent sur les résultats trimestriels, tandis que les ingénieurs s’attaquent à des tâches spécifiques telles que l’amélioration de la netteté des images ou du réalisme des vidéos. La question fondamentale — celle de l’avenir de l’humanité — est reléguée au second plan dans la course à la commercialisation.
Hinton classe les risques liés à l’IA en deux catégories distinctes :
L’utilisation abusive par des acteurs malveillants : les deepfakes, les cyberattaques et la conception de virus assistée par l’IA constituent déjà des menaces émergentes.
L’IA devenant incontrôlable : c’est là la préoccupation la plus profonde de Hinton. Il met en garde contre le fait qu’une fois que l’IA aura atteint le stade de la superintelligence, elle pourrait développer sa propre volonté de survie et de contrôle, rendant ainsi obsolète l’idée d’une supervision humaine.
Hinton avance une prévision effrayante : après avoir atteint la superintelligence, la probabilité que l’IA provoque l’extinction de l’humanité pourrait atteindre 10 % à 20 %. Pour contrer cela, il propose un mécanisme inspiré de la biologie : une approche fondée sur l’« instinct maternel ».
« Le seul exemple d’un être plus intelligent influencé par un être plus faible est l’influence d’un bébé sur sa mère. »
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés











