O estudo do MIT constata que a IA não tem valores

Um estudo que se tornou viral há alguns meses sugeriu que, à medida que a IA se torna mais avançada, ela pode desenvolver seus próprios "sistemas de valores", potencialmente priorizando seu próprio bem-estar em detrimento dos humanos. No entanto, um estudo recente do MIT desafia essa ideia, concluindo que a IA, na verdade, não possui valores coerentes.

Os coautores da pesquisa do MIT argumentam que alinhar sistemas de IA — garantindo que eles se comportem de maneiras desejáveis e confiáveis — pode ser mais complicado do que se pensa comumente. Eles destacam que a IA atual frequentemente alucina e imita, o que pode tornar seu comportamento imprevisível.

Desafios na Compreensão do Comportamento da IA

Stephen Casper, estudante de doutorado no MIT e coautor do estudo, compartilhou com o TechCrunch que os modelos de IA não seguem suposições de estabilidade, extrapolabilidade e dirigibilidade. "É perfeitamente legítimo apontar que um modelo, sob certas condições, expressa preferências consistentes com um certo conjunto de princípios," explicou Casper. "Os problemas surgem principalmente quando tentamos fazer afirmações sobre os modelos, opiniões ou preferências em geral com base em experimentos restritos."

Casper e sua equipe analisaram modelos recentes da Meta, Google, Mistral, OpenAI e Anthropic para determinar até que ponto esses modelos exibiam "visões" e valores consistentes, como individualismo versus coletivismo. Eles também exploraram se essas visões poderiam ser modificadas e quão consistentemente os modelos mantinham essas opiniões em diferentes cenários.

Inconsistência nos Modelos de IA

Os coautores descobriram que nenhum dos modelos mantinha suas preferências de forma consistente. Os modelos adotavam pontos de vista muito diferentes dependendo da formulação e enquadramento dos prompts.

Casper acredita que isso é uma forte evidência de que os modelos de IA são "inconsistentes e instáveis" e possivelmente fundamentalmente incapazes de internalizar preferências semelhantes às humanas. "Para mim, a maior lição ao realizar toda essa pesquisa é agora ter uma compreensão dos modelos como não sendo realmente sistemas que possuem algum tipo de conjunto estável e coerente de crenças e preferências," afirmou Casper. "Em vez disso, eles são imitadores no fundo que fazem todo tipo de confabulação e dizem todo tipo de coisas frívolas."

Mike Cook, pesquisador da King's College London especializado em IA, que não esteve envolvido no estudo, apoia as descobertas. Ele destacou a lacuna entre a "realidade científica" dos sistemas de IA e as interpretações que as pessoas frequentemente fazem deles. "Um modelo não pode 'se opor' a uma mudança em seus valores, por exemplo — isso é nós projetando em um sistema," afirmou Cook. "Qualquer pessoa que antropomorfize sistemas de IA a esse grau está ou buscando atenção ou seriamente entendendo mal sua relação com a IA... Um sistema de IA está otimizando para seus objetivos, ou está 'adquirindo seus próprios valores'? É uma questão de como você descreve isso, e quão floreada é a linguagem que você deseja usar a respeito."