O estudo do MIT constata que a IA não tem valores

Um estudo que se tornou viral há alguns meses sugeriu que, à medida que a IA se tornou mais avançada, ele pode desenvolver seus próprios "sistemas de valor", potencialmente priorizando seu próprio bem-estar sobre os seres humanos. No entanto, um estudo recente do MIT desafia essa idéia, concluindo que a IA não possui valores coerentes.

Os co-autores da pesquisa do MIT argumentam que o alinhamento de sistemas de IA-definindo que se comportam de maneiras desejáveis ​​e confiáveis-pode ser mais complicado do que se pensava. Eles enfatizam que a IA atual geralmente alucina e imita, o que pode tornar seu comportamento imprevisível.

Desafios para entender o comportamento da IA

Stephen Casper, estudante de doutorado do MIT e co-autor do estudo, compartilhou com a TechCrunch que os modelos de IA não aderem a suposições de estabilidade, extrapolabilidade e Steerability. "É perfeitamente legítimo ressaltar que um modelo sob certas condições expressa preferências consistentes com um certo conjunto de princípios", explicou Casper. "Os problemas surgem principalmente quando tentamos fazer reivindicações sobre os modelos, opiniões ou preferências em geral com base em experimentos estreitos".

Casper e sua equipe analisaram modelos recentes do Meta, Google, Mistral, OpenAI e Anthropic para determinar até que ponto esses modelos exibiam "visualizações" e valores consistentes, como individualismo versus coletivismo. Eles também exploraram se essas visões poderiam ser modificadas e quão consistentemente os modelos mantiveram essas opiniões em diferentes cenários.

Inconsistência nos modelos de IA

Os co-autores descobriram que nenhum dos modelos mantinha consistentemente suas preferências. Os modelos adotaram pontos de vista muito diferentes, dependendo do fraseado e enquadramento dos avisos.

Casper acredita que isso é forte evidência de que os modelos de IA são "inconsistentes e instáveis" e possivelmente fundamentalmente incapazes de internalizar preferências semelhantes a seres humanos. "Para mim, meu maior argumento de fazer toda essa pesquisa é agora ter um entendimento de modelos como realmente não serem sistemas que tenham algum tipo de conjunto estável e coerente de crenças e preferências", observou Casper. "Em vez disso, eles são imitadores no fundo que fazem todo tipo de confabulação e dizem todo tipo de coisas frívolas".

Mike Cook, pesquisador do King's College London, especializado em IA, que não esteve envolvido no estudo, apóia as descobertas. Ele apontou a lacuna entre a "realidade científica" dos sistemas de IA e as interpretações que as pessoas freqüentemente lhes dão. "Um modelo não pode 'se opor' a uma alteração em seus valores, por exemplo - que estamos nos projetando em um sistema", afirmou Cook. "Qualquer pessoa que antropomorfize os sistemas de IA nesse grau esteja jogando por atenção ou entendendo mal o relacionamento deles com a IA ... é um sistema de IA otimizando para seus objetivos ou é 'adquirir seus próprios valores'? É uma questão de como você o descreve e quão florido é o idioma que deseja usar em relação a ele".