Ai se tornando 'sim-homens em servidores', avisa o CSO do Hugging Face

Thomas Wolf, cofundador e diretor científico da Hugging Face, oferece uma perspectiva mais cautelosa sobre o potencial da IA para revolucionar a ciência, contrastando com as afirmações ousadas frequentemente feitas por outros fundadores de empresas de IA. Em um ensaio compartilhado no X, Wolf expressou preocupações de que a IA possa se tornar apenas "homens de sim em servidores" sem avanços significativos na pesquisa. Ele argumenta que a trajetória atual do desenvolvimento de IA não produzirá sistemas capazes do pensamento criativo e fora da curva necessário para conquistas científicas revolucionárias, como aquelas que recebem Prêmios Nobel.

Wolf desafia a noção de que gênios como Newton ou Einstein são simplesmente versões ampliadas dos melhores alunos. Ele acredita que, para replicar tal genialidade em um data center, a IA não deve apenas saber todas as respostas, mas também ser capaz de formular perguntas que ninguém mais considerou ou ousou fazer. Essa perspectiva difere da do CEO da OpenAI, Sam Altman, que prevê uma IA "superinteligente" acelerando a descoberta científica, e do CEO da Anthropic, Dario Amodei, que prevê que a IA poderia ajudar a encontrar curas para a maioria dos cânceres.

A crítica de Wolf à IA atual é que ela falha em gerar novo conhecimento ao conectar fatos anteriormente não relacionados. Apesar de ter acesso a vastas quantidades de dados da internet, a IA preenche principalmente as lacunas do conhecimento humano existente, segundo Wolf. Essa visão é ecoada por outros especialistas em IA, como o ex-engenheiro do Google François Chollet, que argumentam que, embora a IA possa memorizar padrões de raciocínio, ela tem dificuldade em gerar novos raciocínios em situações novas.

Wolf sugere que os laboratórios de IA estão atualmente construindo "alunos muito obedientes" em vez dos revolucionários científicos necessários para a verdadeira inovação. Ele aponta que os sistemas de IA atuais não são projetados para questionar ou propor ideias que contradigam seus dados de treinamento, limitando-os a responder perguntas conhecidas. Wolf enfatiza a necessidade de uma IA que possa desafiar o conhecimento estabelecido e perguntar: "E se todos estiverem errados sobre isso?" mesmo quando todas as evidências sugerem o contrário.

Ele atribui parte do problema a uma "crise de avaliação" na IA, onde os benchmarks usados para medir melhorias nos sistemas frequentemente se concentram em perguntas com respostas claras e fechadas. Para abordar isso, Wolf propõe que a indústria de IA deve mudar para avaliar a capacidade da IA de adotar abordagens contrafactuais ousadas, fazer propostas gerais a partir de pistas mínimas e formular perguntas não óbvias que poderiam levar a novos caminhos de pesquisa.

Embora reconheça o desafio em definir tal medida, Wolf acredita que é um esforço que vale a pena. Ele enfatiza que a essência da ciência está em fazer as perguntas certas e desafiar o conhecimento aprendido. Em vez de um aluno nota A+ que pode responder todas as perguntas com conhecimento geral, Wolf argumenta que o necessário é um aluno nota B que possa ver e questionar o que os outros deixaram passar.