La tendencia de 'trae su propia IA' podría significar grandes problemas para los líderes empresariales

En todas las industrias, las empresas están ansiosas por aprovechar el poder de la inteligencia artificial (AI) para mantenerse por delante de la competencia. Corresponde a los altos ejecutivos establecer las directrices y salvaguardas necesarias para garantizar el uso responsable y efectivo de estas nuevas tecnologías.

Keith Woolley, director digital y de información de la Universidad de Bristol, está a la vanguardia de la integración de la AI en una de las principales instituciones académicas del Reino Unido. Bristol no solo es un centro de tecnología de punta, albergando Isambard-AI, la supercomputadora más rápida del Reino Unido, sino que también está empujando los límites de la aplicación de la AI en toda su organización.

Los Profesionales del Día a Día Usan AI

Mientras Bristol está interesada en aprovechar la AI para fomentar la innovación en sus esfuerzos académicos, Woolley compartió con ZDNET cómo el personal cotidiano en la enseñanza, la administración y la investigación también está utilizando estas tecnologías emergentes.

Así como los servicios en la nube fueron adoptados en su momento, Woolley señaló que los profesionales ahora están tomando sus propias decisiones tecnológicas en lo que se conoce como Bring Your Own AI (BYOAI). "Está sucediendo", afirmó, destacando que la aceptación generalizada de la tecnología en la nube y la carrera de los proveedores por integrar AI en sus servicios significa que estas tecnologías pueden infiltrarse en las organizaciones sin el conocimiento del departamento de TI.

"Ya lo estoy viendo, donde los departamentos ahora están construyendo o trayendo herramientas a la institución porque cada proveedor que te ofrece un sistema SaaS está incorporando AI en él", explicó Woolley.

Bring Your Own AI es una Tendencia Creciente

BYOAI es cada vez más reconocido como una tendencia por otros expertos también. La investigación del MIT Center for Information Systems Research indica que esta tendencia surge cuando los empleados usan herramientas de AI generativa públicas no aprobadas para su trabajo.

Woolley expresó su preocupación por esta introducción sigilosa de la AI, ya sea por usuarios o proveedores, lo que plantea desafíos significativos para su equipo y el liderazgo de la universidad. "Bring Your Own AI es un desafío", señaló. "Es como cuando solías ver almacenamiento apareciendo en la red desde Dropbox y otros proveedores de nube. La gente pensaba que podía tomar una tarjeta de crédito y empezar a compartir cosas, lo cual no es genial".

La investigación del MIT valida las preocupaciones de Woolley, destacando que, aunque las herramientas de AI generativa prometen aumentos de productividad, también introducen riesgos como la pérdida de datos, la fuga de propiedad intelectual, violaciones de derechos de autor y brechas de seguridad.

Woolley enfatizó la principal preocupación de Bristol: la posible pérdida de control sobre cómo los servicios SaaS habilitados para AI manejan y comparten datos. "El sistema podría estar tomando nuestros datos, que creemos que están en un entorno SaaS seguro, y procesando esta información en un modelo de AI público", dijo.

Prohibir la AI Generativa para Mitigar Riesgos

Entonces, ¿cómo pueden las organizaciones abordar el aumento de BYOAI? Una opción es que los ejecutivos prohíban completamente la AI generativa. Sin embargo, la investigación del MIT aconseja a los líderes empresariales que permanezcan abiertos a la AI generativa y proporcionen una guía clara para transformar BYOAI en una fuente de innovación.

Woolley está de acuerdo, abogando por un control estricto sobre los límites de las aplicaciones como la mejor manera de gestionar BYOAI. "La aplicación de políticas es una discusión que estamos teniendo dentro de nuestra organización. Estamos proporcionando barreras a las personas sobre lo que pueden y no pueden hacer", dijo.

La universidad está comenzando con un conjunto de herramientas aprobadas para frenar la propagación incontrolada de la AI.

Los Estudiantes Quieren Usar AI

Para establecer el contexto de estas directrices, los altos ejecutivos de Bristol se reunieron con los estudiantes para entender su perspectiva sobre el uso de la AI generativa en la educación. "La conversación pasó de cómo usarías la AI para el aprendizaje a las inscripciones, la calificación y todo lo demás", relató Woolley.

Sorprendentemente, los estudiantes abogaron firmemente por el uso de la AI. "Lo que fue sorprendente fue cuánto querían los estudiantes que usáramos la AI. Una de las cosas que quedó clara de nuestros estudiantes fue que si no les permitimos usar AI, estarán en desventaja en el mercado frente a otros que ofrecen la oportunidad", compartió Woolley.

Comparó la introducción de la AI generativa con los primeros días de las calculadoras en las aulas. Inicialmente, había temores de que las calculadoras pudieran fomentar el engaño, pero ahora son un elemento básico en la educación matemática. Woolley predice una trayectoria similar para la AI generativa.

"Vamos a tener que repensar nuestro currículo y la capacidad de aprender usando esa tecnología", dijo. "Tendremos que enseñar a la próxima generación de estudiantes a diferenciar la información proporcionada a través de la AI. Una vez que podamos resolver esa pieza, estaremos bien".

Bristol pretende integrar la AI generativa en la educación con cuidado, como señaló Woolley: "Hemos sido claros en que la AI se trata de asistir a la fuerza laboral, los estudiantes y nuestros investigadores, y donde sea práctico y posible, automatizar servicios".

Consideraciones Clave

Sin embargo, reconocer el potencial de la AI es solo el comienzo. Woolley describió los costos asociados con la tecnología emergente como en rápido aumento, como una curva de palo de hockey. Sin reglas y regulaciones estrictas, estos costos pueden dispararse si se permite a los usuarios traer sus propias herramientas de AI.

Los altos ejecutivos de la universidad están enfocados en varias consideraciones clave. "La primera pregunta es, '¿Cuánto fracaso queremos?' Porque la AI es un motor de suposiciones en este momento, y es una de esas situaciones donde hará suposiciones basadas en la información que tiene. Si esa información es ligeramente defectuosa, obtendrás una respuesta ligeramente defectuosa", explicó Woolley.

"Entonces, estamos viendo qué servicios podemos ofrecer. Hemos establecido políticas y procesos al respecto, pero eso es un documento vivo porque todo está cambiando tan rápido. Estamos intentando impulsar el cambio con cuidado", agregó.

A largo plazo, Woolley ve tres enfoques potenciales para Bristol: consumir AI generativa como parte del sistema educativo, alimentar datos en modelos existentes o desarrollar modelos de lenguaje como un diferenciador competitivo. "Ese es el debate que estamos teniendo", dijo. "Luego, una vez que se elija el enfoque correcto, puedo crear políticas basadas en cómo usamos la AI".

Este enfoque se alinea con las opiniones de Roger Joys, vicepresidente de plataformas empresariales en la nube de la empresa de telecomunicaciones de Alaska GCI. Como el MIT y Woolley, Joys enfatizó la importancia de las políticas y procesos para introducir la AI generativa de manera segura. "Me gustaría ver a nuestros científicos de datos con una lista curada de modelos que han sido revisados y aprobados", dijo, abordando el aumento de BYOAI. "Entonces puedes decir, 'Puedes seleccionar de estos modelos', en lugar de que simplemente salgan y usen lo que les gusta o encuentran".

Joys aconsejó a los ejecutivos que corten con el bombo y establezcan una política de uso aceptable que ayude a las personas a navegar por los desafíos. "Encuentra los casos de negocio", dijo. "Muévete metódicamente, no necesariamente despacio, pero hacia un objetivo conocido, y mostremos el valor de la AI".