Négliger l'éthique de l'IA présente d'énormes risques: comment mettre en œuvre l'IA de manière responsable

En juillet 1945, MH Hasham Premji a jeté les bases de ce qui deviendra un géant de la technologie en fondant Western India Vegetable Products Limited dans la petite ville d’Amalner, Maharashtra, Inde. Nichée au bord de la rivière Bori, l’entreprise s’est d’abord concentrée sur la production d’huiles de cuisson. Dans les années 1970, l’entreprise a radicalement changé de cap, se tournant vers l’informatique et se renommant Wipro. Aujourd’hui, Wipro est l’une des principales entreprises technologiques de l’Inde, opérant dans 167 pays, employant près d’un quart de million de personnes et générant des revenus dépassant les 10 milliards de dollars. À sa tête se trouve Rishad Premji, le petit-fils du fondateur visionnaire.

À ce jour, Wipro se positionne comme un leader mondial dans la transformation informatique, le conseil et les services de processus métier. Dans une interview exclusive avec ZDNET, nous avons eu l’occasion de nous entretenir avec Kiran Minnasandram, vice-président et directeur de la technologie de Wipro FullStride Cloud, pour explorer les dernières initiatives de l’entreprise et l’avenir de l’informatique.

Kiran est à l’avant-garde de l’innovation technologique de Wipro, dirigeant des initiatives qui développent des solutions de pointe. Son objectif principal est de stimuler l’innovation et de doter les entreprises de technologies de pointe, en particulier dans le domaine de l’informatique en nuage. Il conçoit et met en œuvre des architectures cloud avancées qui révolutionnent les opérations commerciales, améliorant l’efficacité, l’évolutivité et la flexibilité pour aider les clients à progresser dans leurs parcours numériques.

Valeurs de l’entreprise

ZDNET : Comment définissez-vous l’IA éthique, et pourquoi est-elle cruciale pour les entreprises aujourd’hui ?

Kiran Minnasandram : L’IA éthique ne se limite pas à cocher des cases juridiques ; elle est profondément liée aux valeurs fondamentales de Wipro. Nous ancrons notre approche dans quatre piliers clés : le respect de l’individu, l’équité et la transparence pour la société, la responsabilité environnementale et la robustesse technique. Cela garantit que notre IA respecte nos valeurs en matière de confidentialité, de dignité, d’équité sociétale et de responsabilité environnementale, tout en étant sûre et conforme.

ZDNET : Pourquoi de nombreuses entreprises rencontrent-elles des difficultés avec l’éthique de l’IA, et quels sont les principaux risques qu’elles doivent aborder ?

KM : Le défi provient souvent d’un manque de langage commun autour de l’IA. Pour y remédier, les entreprises doivent établir une stratégie inter-organisationnelle intégrant les équipes techniques, juridiques et des ressources humaines. L’IA n’est pas seulement un problème technologique ; c’est une question d’entreprise. Les entreprises doivent définir leur éthique de l’IA au-delà de la conformité légale, en se concentrant sur les valeurs qu’elles souhaitent défendre. Elles devraient également développer une taxonomie des risques pour traiter les impacts potentiels sur le plan juridique, sécuritaire et sur la main-d’œuvre.

ZDNET : Comment l’adoption de l’IA affecte-t-elle les objectifs de durabilité des entreprises, de manière positive et négative ?

KM : L’IA a un double impact sur la durabilité. Du côté positif, elle peut améliorer l’efficacité opérationnelle, optimiser les chaînes d’approvisionnement et améliorer la gestion des ressources, ce qui peut réduire les émissions de carbone. Par exemple, dans la logistique, l’IA peut optimiser les itinéraires pour minimiser l’utilisation de carburant. Cependant, le déploiement rapide de l’IA augmente également la consommation d’énergie et les émissions de carbone, en particulier avec la puissance de calcul intensive nécessaire pour entraîner de grands modèles d’IA.

Impact environnemental

ZDNET : Comment les entreprises doivent-elles équilibrer la quête d’innovation en IA avec la responsabilité environnementale ?

KM : Les entreprises doivent établir des politiques et des lignes directrices claires pour une utilisation durable de l’IA. Ce cadre aide les équipes à prendre des décisions éclairées concernant l’infrastructure et les algorithmes. Les entreprises devraient également suivre et surveiller l’impact environnemental de l’IA, en incitant les fournisseurs de services à faire de même. Nous avons aidé des clients à réviser leurs politiques d’IA, à engager les parties prenantes et à former les employés pour intégrer la durabilité dans les processus quotidiens. La collaboration intersectorielle est cruciale pour relever ces défis, et Wipro participe activement aux efforts mondiaux pour aider les clients à naviguer dans ce paysage complexe.

ZDNET : Comment les réglementations mondiales évoluent-elles pour répondre aux préoccupations éthiques et de durabilité liées à l’IA ?

KM : L’IA n’opère pas dans un vide. Les lois existantes sur la confidentialité, la protection des consommateurs, la sécurité et les droits humains s’appliquent toutes. Les régulateurs de la protection des données jouent un rôle clé dans la protection contre les préjudices liés à l’IA, tandis que les lois sur la protection des consommateurs traitent des problèmes comme la tarification algorithmique. Certaines régions adoptent également des lois spécifiques à l’IA, comme l’EU AI Act, qui impose des contrôles plus stricts en fonction du niveau de risque du produit. Aux États-Unis, les États individuels se concentrent sur l’IA dans la gestion de la main-d’œuvre, l’un des domaines les plus complexes du déploiement de l’IA.

Plus grande idée fausse

ZDNET : Quelles sont les plus grandes idées fausses sur l’éthique et la durabilité de l’IA, et comment les entreprises peuvent-elles les surmonter ?

KM : Une idée fausse courante est que l’innovation et la responsabilité ne peuvent pas coexister. En réalité, une IA responsable est cruciale pour une innovation durable. La confiance est la base du déploiement de l’IA, et les entreprises qui équilibrent innovation et confiance obtiennent un avantage concurrentiel. Les consommateurs et les entreprises se tourneront vers les produits en lesquels ils ont confiance.

ZDNET : Comment Wipro FullStride Cloud aide-t-il les entreprises à aligner l’IA sur les objectifs ESG (environnementaux, sociaux et de gouvernance) ?

KM : Nous aidons en développant des cadres d’IA responsables qui privilégient l’équité, la transparence et la responsabilité. Nous utilisons l’IA pour surveiller et rapporter les métriques ESG et soutenons les initiatives Green AI pour réduire l’empreinte carbone. Du côté de l’infrastructure, nous optimisons les charges de travail pour l’efficacité énergétique et développons des solutions spécifiques à l’industrie pour atteindre les objectifs ESG.

ZDNET : Quels sont les moyens les plus efficaces pour les solutions cloud de réduire l’empreinte environnementale de l’IA ?

KM : Les solutions cloud peuvent améliorer l’efficacité énergétique grâce à l’utilisation d’énergies renouvelables, à un refroidissement optimisé et à un calcul conscient du carbone. Des techniques comme l’apprentissage fédéré et l’élagage de modèles peuvent réduire l’énergie nécessaire à l’entraînement des modèles d’IA. Les solutions serverless et à mise à l’échelle automatique permettent d’aligner les ressources sur la demande, évitant le surprovisionnement. Les fournisseurs de cloud offrent des outils de suivi et de reporting du carbone, et le multi-cloud et l’informatique de pointe peuvent minimiser les mouvements de données, en traitant l’IA plus près de sa source.

Tirer parti du cloud

ZDNET : Comment l’infrastructure cloud peut-elle être utilisée pour intégrer des considérations éthiques dans le développement de l’IA ?

KM : L’infrastructure cloud fournit des outils pour intégrer des considérations éthiques dans l’IA. Les boîtes à outils d’éthique de l’IA peuvent détecter les biais et tester l’équité, tandis que les outils de formation sensibles à la diversité garantissent que les ensembles de données sont représentatifs. Les cadres d’IA basés sur le cloud offrent de l’explicabilité et de la transparence, et le développement d’IA sécurisé et respectueux de la vie privée est soutenu par des capacités comme la confidentialité différentielle et le traitement crypté. La surveillance automatisée de la conformité garantit le respect des réglementations, et les outils de test de dérive de modèle et de détection d’hallucination aident à maintenir la fiabilité des modèles au fil du temps.

ZDNET : Pourquoi certaines organisations ont-elles du mal à mesurer l’impact de durabilité de l’IA, et comment les outils basés sur le cloud peuvent-ils aider ?

KM : L’absence de métriques standard rend difficile la mesure de l’impact de durabilité de l’IA. Les outils basés sur le cloud peuvent combler cette lacune avec des tableaux de bord personnalisables qui suivent les émissions de carbone tout au long du cycle de vie de l’IA. La surveillance en temps réel est cruciale, car la consommation d’énergie peut varier considérablement, et les plateformes cloud offrent des outils de suivi dynamique pour capturer ces fluctuations. Les solutions natives du cloud agrègent également les données de divers environnements, améliorant la visibilité et la prise de décision. De plus, les outils cloud peuvent mettre en évidence les coûts environnementaux cachés tout au long du processus d’IA et aider à naviguer dans les exigences de conformité ESG régionales variées.

ZDNET : Quelles mesures concrètes les organisations peuvent-elles prendre pour améliorer la transparence et la responsabilité de l’IA ?

KM : Tout d’abord, formez votre main-d’œuvre à utiliser l’IA de manière responsable, en les encourageant à questionner et tester l’IA dans des limites sûres. Ensuite, établissez une structure de gouvernance complète qui couvre tous les aspects de l’entreprise, de l’approvisionnement à la gestion des risques.

ZDNET : Comment les biais de l’IA émergent-ils, et quel rôle les cadres basés sur le cloud jouent-ils dans leur atténuation ?

KM : Les biais de l’IA peuvent provenir de données d’entraînement non représentatives ou biaisées, d’erreurs dans les ensembles de données étiquetés par des humains, et de modèles obsolètes perpétuant des biais historiques. Les cadres basés sur le cloud aident en assurant la conformité avec diverses réglementations et en validant les modèles d’IA sur divers groupes démographiques. Les processus de formation adaptative peuvent également rééquilibrer les ensembles de données pour atténuer les biais.

ZDNET : Quelles stratégies de gouvernance les entreprises devraient-elles mettre en œuvre pour garantir une utilisation responsable de l’IA ?

KM : Un cadre de gouvernance robuste est essentiel. Certaines organisations peuvent avoir une structure de gouvernance dédiée à l’IA, tandis que d’autres, comme la nôtre, l’intègrent dans les systèmes de gouvernance existants. Il est crucial d’impliquer toutes les parties de l’organisation et de réaliser des évaluations d’impact de l’IA dès le départ pour intégrer la protection juridique, la confidentialité et la robustesse dans le déploiement de l’IA.

Problèmes liés à l’IA

Que pensez-vous de l’accent croissant mis sur une IA éthique et durable ? Avez-vous mis en place des cadres ou des politiques pour garantir un développement responsable de l’IA dans votre organisation ?

Comment abordez-vous l’impact environnemental des charges de travail de l’IA ? Utilisez-vous des outils basés sur le cloud pour mesurer ou réduire cette empreinte ?

Pensez-vous que les réglementations mondiales suivent le rythme de l’innovation en IA, ou les entreprises sont-elles laissées à naviguer seules dans les zones grises ? Partagez vos idées dans les commentaires ci-dessous.

Restez informé des dernières nouvelles technologiques en vous abonnant à notre newsletter Tech Today, livrée dans votre boîte de réception chaque matin.

Suivez mes mises à jour quotidiennes sur les projets sur les réseaux sociaux. Abonnez-vous à ma newsletter de mise à jour hebdomadaire et connectez-vous avec moi sur Twitter/X à @DavidGewirtz, sur Facebook à Facebook.com/DavidGewirtz, sur Instagram à Instagram.com/DavidGewirtz, sur Bluesky à @DavidGewirtz.com, et sur YouTube à YouTube.com/DavidGewirtzTV.