'Traga sua própria tendência de IA' pode significar grandes problemas para os líderes empresariais

Em todas as indústrias, as empresas estão ansiosas para aproveitar o poder da inteligência artificial (AI) para se manterem à frente da concorrência. Cabe aos executivos seniores estabelecerem as diretrizes e salvaguardas necessárias para garantir o uso responsável e eficaz dessas novas tecnologias.

Keith Woolley, o diretor digital e de informação da Universidade de Bristol, está na vanguarda da integração da AI em uma das principais instituições acadêmicas do Reino Unido. Bristol não é apenas um centro de tecnologia de ponta, abrigando o Isambard-AI, o supercomputador mais rápido do Reino Unido, mas também está expandindo os limites da aplicação da AI em toda a sua organização.

Profissionais do Dia a Dia Usam AI

Enquanto Bristol está empenhada em utilizar a AI para estimular a inovação em seus empreendimentos acadêmicos, Woolley compartilhou com o ZDNET como os funcionários comuns em ensino, administração e pesquisa também estão explorando essas tecnologias emergentes.

Assim como os serviços em nuvem foram adotados anteriormente, Woolley destacou que os profissionais agora estão fazendo suas próprias escolhas tecnológicas no que é conhecido como Bring Your Own AI (BYOAI). "Está acontecendo", ele afirmou, observando que a aceitação generalizada da tecnologia em nuvem e a corrida dos fornecedores para integrar a AI em seus serviços significam que essas tecnologias podem entrar nas organizações sem o conhecimento do departamento de TI.

"Já estou vendo isso, onde os departamentos estão agora construindo ou trazendo ferramentas para a instituição porque todo fornecedor que fornece um sistema SaaS está incorporando AI nele", explicou Woolley.

Bring Your Own AI é uma Tendência Crescente

O BYOAI é cada vez mais reconhecido como uma tendência por outros especialistas também. Pesquisas do MIT Center for Information Systems Research indicam que essa tendência surge quando os funcionários usam ferramentas de AI generativa públicas e não aprovadas para seu trabalho.

Woolley expressou preocupação com essa introdução furtiva da AI, seja por usuários ou fornecedores, o que representa desafios significativos para sua equipe e a liderança da universidade. "Bring Your Own AI é um desafio", ele observou. "É como quando você via armazenamento aparecendo na rede a partir do Dropbox e outros provedores de nuvem. As pessoas pensavam que podiam pegar um cartão de crédito e começar a compartilhar coisas, o que não é ótimo."

A pesquisa do MIT valida as preocupações de Woolley, destacando que, embora as ferramentas de AI generativa prometam aumentos de produtividade, elas também introduzem riscos como perda de dados, vazamento de propriedade intelectual, violações de direitos autorais e brechas de segurança.

Woolley enfatizou a principal preocupação de Bristol: a potencial perda de controle sobre como os serviços SaaS habilitados por AI lidam e compartilham dados. "O sistema poderia estar pegando nossos dados, que pensamos estar em um ambiente SaaS seguro, e rodando essas informações em um modelo de AI público", disse ele.

Proibir a AI Generativa para Mitigar Riscos

Então, como as organizações podem lidar com o aumento do BYOAI? Uma opção é que os executivos proíbam completamente a AI generativa. No entanto, a pesquisa do MIT aconselha os líderes empresariais a permanecerem abertos à AI generativa e fornecerem orientações claras para transformar o BYOAI em uma fonte de inovação.

Woolley concorda, defendendo um controle rigoroso sobre os limites das aplicações como a melhor maneira de gerenciar o BYOAI. "A aplicação de políticas é uma discussão que estamos tendo dentro da nossa organização. Estamos estabelecendo barreiras para as pessoas sobre o que elas podem e não podem fazer", disse ele.

A universidade está começando com um conjunto aprovado de ferramentas para conter a disseminação descontrolada da AI.

Estudantes Querem Usar AI

Para definir o contexto dessas diretrizes, os executivos seniores de Bristol envolveram os estudantes para entender sua perspectiva sobre o uso da AI generativa na educação. "A conversa passou de como você usaria a AI para aprendizado para matrículas, avaliações e tudo mais", relatou Woolley.

Surpreendentemente, os estudantes defenderam fortemente o uso da AI. "O que foi surpreendente foi o quanto os estudantes queriam que usássemos a AI. Uma das coisas que ficou clara com nossos estudantes foi que, se não permitirmos que eles usem a AI, eles estarão em desvantagem no mercado em relação a outros que oferecem a oportunidade", compartilhou Woolley.

Ele comparou a introdução da AI generativa aos primeiros dias das calculadoras nas salas de aula. Inicialmente, havia temores de que as calculadoras pudessem incentivar a trapaça, mas agora elas são um item básico na educação matemática. Woolley prevê uma trajetória semelhante para a AI generativa.

"Teremos que repensar nosso currículo e a capacidade de aprender usando essa tecnologia", disse ele. "Teremos que ensinar a próxima geração de estudantes a diferenciar informações fornecidas por meio da AI. Uma vez que conseguirmos resolver essa parte, estaremos bem."

Bristol pretende integrar a AI generativa na educação com cuidado, como Woolley observou, "Fomos claros que a AI é sobre auxiliar a força de trabalho, os estudantes e nossos pesquisadores, e, onde prático e possível, automatizar serviços."

Considerações Chave

No entanto, reconhecer o potencial da AI é apenas o começo. Woolley descreveu os custos associados à tecnologia emergente como escalando rapidamente, como uma curva de taco de hóquei. Sem regras e regulamentos rigorosos, esses custos podem disparar se os usuários forem autorizados a trazer suas próprias ferramentas de AI.

Os executivos seniores da universidade estão focados em várias considerações chave. "A primeira pergunta é, 'Quanto de falha queremos?' Porque a AI é um motor de suposição no momento, e é uma daquelas situações em que ela fará suposições com base nas informações que possui. Se essas informações estiverem ligeiramente falhas, você obterá uma resposta ligeiramente falha", explicou Woolley.

"Então, estamos analisando quais serviços podemos oferecer. Colocamos políticas e processos em torno disso, mas isso é um documento vivo porque tudo está mudando muito rápido. Estamos tentando conduzir a mudança com cuidado", acrescentou ele.

A longo prazo, Woolley vê três abordagens potenciais para Bristol: consumir AI generativa como parte do sistema educacional, alimentar dados em modelos existentes ou desenvolver modelos de linguagem como um diferencial competitivo. "Esse é o debate que estamos tendo", disse ele. "Então, uma vez que a abordagem certa for escolhida, posso criar políticas baseadas em como usamos a AI."

Essa abordagem está alinhada com as visões de Roger Joys, vice-presidente de plataformas de nuvem empresarial da empresa de telecomunicações do Alasca, GCI. Como o MIT e Woolley, Joys enfatizou a importância de políticas e processos na introdução segura da AI generativa. "Gostaria de ver nossos cientistas de dados terem uma lista curada de modelos que foram revisados e aprovados", disse ele, abordando o aumento do BYOAI. "Então você pode dizer, 'Você pode escolher entre esses modelos', em vez de eles simplesmente saírem e usarem o que quiserem ou encontrarem."

Joys aconselhou os executivos a cortarem o exagero e estabelecerem uma política de uso aceitável que ajude as pessoas a navegarem pelos desafios. "Encontre os casos de negócios", disse ele. "Mova-se metodicamente, não necessariamente devagar, mas em direção a um alvo conhecido, e vamos mostrar o valor da AI."