La tendance `` Apportez votre propre IA '' pourrait émettre des ennuis majeurs pour les chefs d'entreprise

Dans toutes les industries, les entreprises sont impatientes d'exploiter la puissance de l'intelligence artificielle (IA) pour rester en tête de la concurrence. Il incombe aux cadres supérieurs d'établir les lignes directrices et les garanties nécessaires pour assurer une utilisation responsable et efficace de ces nouvelles technologies.

Keith Woolley, directeur numérique et de l'information à l'Université de Bristol, est à la pointe de l'intégration de l'IA dans l'une des principales institutions académiques du Royaume-Uni. Bristol n'est pas seulement un centre pour les technologies de pointe, accueillant Isambard-AI, le supercalculateur le plus rapide du Royaume-Uni, mais elle repousse également les limites de l'application de l'IA dans toute son organisation.

Les professionnels utilisent l'IA au quotidien

Bien que Bristol soit désireuse d'exploiter l'IA pour stimuler l'innovation dans ses efforts académiques, Woolley a partagé avec ZDNET comment le personnel quotidien dans l'enseignement, l'administration et la recherche exploite également ces technologies émergentes.

Tout comme les services cloud ont été adoptés autrefois, Woolley a souligné que les professionnels font maintenant leurs propres choix technologiques dans ce qu'on appelle Bring Your Own AI (BYOAI). « Ça arrive », a-t-il déclaré, notant que l'acceptation généralisée de la technologie cloud et la précipitation des fournisseurs à intégrer l'IA dans leurs services signifient que ces technologies peuvent s'infiltrer dans les organisations sans que le département informatique ne le sache.

« Je le vois déjà, où les départements construisent ou introduisent maintenant des outils dans l'institution parce que chaque fournisseur qui vous fournit un système SaaS y intègre de l'IA », a expliqué Woolley.

Bring Your Own AI est une tendance croissante

BYOAI est de plus en plus reconnu comme une tendance par d'autres experts également. Une recherche du MIT Center for Information Systems Research indique que cette tendance émerge lorsque les employés utilisent des outils d'IA générative publics non approuvés pour leur travail.

Woolley a exprimé son inquiétude face à cette introduction furtive de l'IA, que ce soit par les utilisateurs ou les fournisseurs, ce qui pose des défis significatifs pour son équipe et la direction de l'université. « Bring Your Own AI est un défi », a-t-il noté. « C'est comme quand on voyait du stockage apparaître sur le réseau depuis Dropbox et d'autres fournisseurs cloud. Les gens pensaient qu'ils pouvaient prendre une carte de crédit et commencer à partager des choses, ce qui n'est pas génial. »

La recherche du MIT valide les préoccupations de Woolley, soulignant que bien que les outils d'IA générative promettent des augmentations de productivité, ils introduisent également des risques tels que la perte de données, la fuite de propriété intellectuelle, les violations de droits d'auteur et les failles de sécurité.

Woolley a souligné la principale préoccupation de Bristol : la perte potentielle de contrôle sur la manière dont les services SaaS activés par l'IA gèrent et partagent les données. « Le système pourrait prendre nos données, que nous pensons être dans un environnement SaaS sécurisé, et exécuter ces informations dans un modèle d'IA public », a-t-il dit.

Interdire l'IA générative pour atténuer les risques

Alors, comment les organisations peuvent-elles faire face à la montée de BYOAI ? Une option est que les cadres interdisent totalement l'IA générative. Cependant, la recherche du MIT conseille aux dirigeants d'entreprise de rester ouverts à l'IA générative et de fournir des orientations claires pour transformer BYOAI en une source d'innovation.

Woolley est d'accord, prônant un contrôle strict des limites des applications comme la meilleure façon de gérer BYOAI. « L'application des politiques est une discussion que nous avons au sein de notre organisation. Nous mettons des garde-fous à disposition des gens pour ce qu'ils peuvent et ne peuvent pas faire », a-t-il dit.

L'université commence avec un ensemble d'outils approuvés pour freiner la propagation incontrôlée de l'IA.

Les étudiants veulent utiliser l'IA

Pour établir le contexte de ces lignes directrices, les cadres supérieurs de Bristol ont discuté avec les étudiants pour comprendre leur perspective sur l'utilisation de l'IA générative dans l'éducation. « La conversation est passée de la manière dont vous utiliseriez l'IA pour l'apprentissage aux inscriptions, à la notation, et à tout le reste », a raconté Woolley.

Étonnamment, les étudiants ont fortement plaidé pour l'utilisation de l'IA. « Ce qui était surprenant, c'était à quel point les étudiants voulaient que nous utilisions l'IA. L'une des choses qui est ressortie clairement de nos étudiants était que si nous ne leur permettons pas d'utiliser l'IA, ils seront désavantagés sur le marché par rapport à ceux qui offrent cette opportunité », a partagé Woolley.

Il a comparé l'introduction de l'IA générative aux premiers jours des calculatrices dans les salles de classe. Au départ, on craignait que les calculatrices n'encouragent la triche, mais elles sont maintenant un pilier de l'éducation mathématique. Woolley prédit une trajectoire similaire pour l'IA générative.

« Nous allons devoir repenser notre programme et la capacité d'apprendre en utilisant cette technologie », a-t-il dit. « Nous devrons enseigner à la prochaine génération d'étudiants à différencier les informations fournies par l'IA. Une fois que nous aurons résolu cette partie, tout ira bien. »

Bristol vise à intégrer l'IA générative dans l'éducation avec soin, comme l'a noté Woolley, « Nous avons été clairs que l'IA est là pour assister la main-d'œuvre, les étudiants et nos chercheurs, et là où c'est pratique et possible, automatiser les services. »

Considérations clés

Cependant, reconnaître le potentiel de l'IA n'est que le début. Woolley a décrit les coûts associés à la technologie émergente comme augmentant rapidement, comme une crosse de hockey. Sans règles et réglementations strictes, ces coûts peuvent exploser si les utilisateurs sont autorisés à apporter leurs propres outils d'IA.

Les cadres supérieurs de l'université se concentrent sur plusieurs considérations clés. « La première question est : 'Combien d'échecs voulons-nous ?' Parce que l'IA est un moteur de conjecture pour le moment, et c'est une de ces situations où elle fera des hypothèses basées sur les informations qu'elle a. Si ces informations sont légèrement erronées, vous obtiendrez une réponse légèrement erronée », a expliqué Woolley.

« Donc, nous examinons quels services nous pouvons offrir. Nous avons mis en place des politiques et des processus, mais c'est un document vivant car tout change si vite. Nous essayons de conduire le changement avec prudence », a-t-il ajouté.

À long terme, Woolley voit trois approches potentielles pour Bristol : consommer l'IA générative dans le cadre du système éducatif, alimenter les données dans les modèles existants, ou développer des modèles de langage comme un différenciateur compétitif. « C'est le débat que nous avons », a-t-il dit. « Ensuite, une fois que la bonne approche est choisie, je peux créer des politiques basées sur la manière dont nous utilisons l'IA. »

Cette approche est en phase avec les points de vue de Roger Joys, vice-président des plateformes cloud d'entreprise chez l'entreprise de télécommunications alaskienne GCI. Comme le MIT et Woolley, Joys a souligné l'importance des politiques et des processus pour introduire l'IA générative en toute sécurité. « J'aimerais que nos scientifiques des données aient une liste curated de modèles qui ont été examinés et approuvés », a-t-il dit, abordant la montée de BYOAI. « Ensuite, vous pouvez dire : 'Vous pouvez choisir parmi ces modèles,' plutôt qu'ils aillent simplement utiliser ce qu'ils veulent ou trouvent. »

Joys a conseillé aux cadres de dépasser le battage médiatique et d'établir une politique d'utilisation acceptable qui aide les gens à naviguer dans les défis. « Trouvez les cas d'affaires », a-t-il dit. « Avancez méthodiquement, pas nécessairement lentement, mais vers une cible connue, et montrons la valeur de l'IA. »