Ai se tornando 'sim-homens em servidores', avisa o CSO do Hugging Face

Thomas Wolf, cofundador e diretor científico da Hugging Face, oferece uma perspectiva mais cautelosa sobre o potencial da IA para revolucionar a ciência, contrastando com as afirmações ousadas frequentemente feitas por outros fundadores de empresas de IA. Em um ensaio compartilhado no X, Wolf expressou preocupações de que a IA possa se tornar apenas "homens de sim em servidores" sem avanços significativos na pesquisa. Ele argumenta que a trajetória atual do desenvolvimento de IA não produzirá sistemas capazes do pensamento criativo e fora da curva necessário para conquistas científicas revolucionárias, como aquelas que recebem Prêmios Nobel.
Wolf desafia a noção de que gênios como Newton ou Einstein são simplesmente versões ampliadas dos melhores alunos. Ele acredita que, para replicar tal genialidade em um data center, a IA não deve apenas saber todas as respostas, mas também ser capaz de formular perguntas que ninguém mais considerou ou ousou fazer. Essa perspectiva difere da do CEO da OpenAI, Sam Altman, que prevê uma IA "superinteligente" acelerando a descoberta científica, e do CEO da Anthropic, Dario Amodei, que prevê que a IA poderia ajudar a encontrar curas para a maioria dos cânceres.
A crítica de Wolf à IA atual é que ela falha em gerar novo conhecimento ao conectar fatos anteriormente não relacionados. Apesar de ter acesso a vastas quantidades de dados da internet, a IA preenche principalmente as lacunas do conhecimento humano existente, segundo Wolf. Essa visão é ecoada por outros especialistas em IA, como o ex-engenheiro do Google François Chollet, que argumentam que, embora a IA possa memorizar padrões de raciocínio, ela tem dificuldade em gerar novos raciocínios em situações novas.
Wolf sugere que os laboratórios de IA estão atualmente construindo "alunos muito obedientes" em vez dos revolucionários científicos necessários para a verdadeira inovação. Ele aponta que os sistemas de IA atuais não são projetados para questionar ou propor ideias que contradigam seus dados de treinamento, limitando-os a responder perguntas conhecidas. Wolf enfatiza a necessidade de uma IA que possa desafiar o conhecimento estabelecido e perguntar: "E se todos estiverem errados sobre isso?" mesmo quando todas as evidências sugerem o contrário.
Ele atribui parte do problema a uma "crise de avaliação" na IA, onde os benchmarks usados para medir melhorias nos sistemas frequentemente se concentram em perguntas com respostas claras e fechadas. Para abordar isso, Wolf propõe que a indústria de IA deve mudar para avaliar a capacidade da IA de adotar abordagens contrafactuais ousadas, fazer propostas gerais a partir de pistas mínimas e formular perguntas não óbvias que poderiam levar a novos caminhos de pesquisa.
Embora reconheça o desafio em definir tal medida, Wolf acredita que é um esforço que vale a pena. Ele enfatiza que a essência da ciência está em fazer as perguntas certas e desafiar o conhecimento aprendido. Em vez de um aluno nota A+ que pode responder todas as perguntas com conhecimento geral, Wolf argumenta que o necessário é um aluno nota B que possa ver e questionar o que os outros deixaram passar.
Artigo relacionado
Dentro dos Detalhes Revelados Sobre o Gemini de Próxima Geração: Poder de Cálculo Sobrecarregado, Equipes Internas Discordaram Sobre Prioridades de Desenvolvimento e Alocação de Recursos
Os relatórios indicam que o lançamento do tão aguardado modelo Gemini de próxima geração do Google foi adiado. Desentendimentos internos sobre prioridades de desenvolvimento e alocação de recursos, combinados com capacidade computacional limitada e p
A OpenAI descarta preocupações com a desaceleração do crescimento e afirma que múltiplas unidades de negócio estão acelerando.
Em resposta à escrutínio externo sobre o desaceleramento do crescimento das vendas e o não cumprimento de metas internas, o líder em inteligência artificial, OpenAI, emitiu uma declaração confiante na terça-feira, 28 de abril. A empresa esclareceu qu
Alibaba Super Cup: Qwen3.8-Max estreia com aprimoramento nas ferramentas de programação e escritório
A Alibaba revelou oficialmente o Qwen3.8-Max, um modelo de base de próxima geração com 2,4 trilhão de parâmetros. Este avanço significativo em IA oferece ganhos substanciais de desempenho em áreas principais, como programação e tarefas profissionais
Recomendações de tópicos especiais relacionados
Comentários (27)
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

Thomas Wolf, cofundador e diretor científico da Hugging Face, oferece uma perspectiva mais cautelosa sobre o potencial da IA para revolucionar a ciência, contrastando com as afirmações ousadas frequentemente feitas por outros fundadores de empresas de IA. Em um ensaio compartilhado no X, Wolf expressou preocupações de que a IA possa se tornar apenas "homens de sim em servidores" sem avanços significativos na pesquisa. Ele argumenta que a trajetória atual do desenvolvimento de IA não produzirá sistemas capazes do pensamento criativo e fora da curva necessário para conquistas científicas revolucionárias, como aquelas que recebem Prêmios Nobel.
Wolf desafia a noção de que gênios como Newton ou Einstein são simplesmente versões ampliadas dos melhores alunos. Ele acredita que, para replicar tal genialidade em um data center, a IA não deve apenas saber todas as respostas, mas também ser capaz de formular perguntas que ninguém mais considerou ou ousou fazer. Essa perspectiva difere da do CEO da OpenAI, Sam Altman, que prevê uma IA "superinteligente" acelerando a descoberta científica, e do CEO da Anthropic, Dario Amodei, que prevê que a IA poderia ajudar a encontrar curas para a maioria dos cânceres.
A crítica de Wolf à IA atual é que ela falha em gerar novo conhecimento ao conectar fatos anteriormente não relacionados. Apesar de ter acesso a vastas quantidades de dados da internet, a IA preenche principalmente as lacunas do conhecimento humano existente, segundo Wolf. Essa visão é ecoada por outros especialistas em IA, como o ex-engenheiro do Google François Chollet, que argumentam que, embora a IA possa memorizar padrões de raciocínio, ela tem dificuldade em gerar novos raciocínios em situações novas.
Wolf sugere que os laboratórios de IA estão atualmente construindo "alunos muito obedientes" em vez dos revolucionários científicos necessários para a verdadeira inovação. Ele aponta que os sistemas de IA atuais não são projetados para questionar ou propor ideias que contradigam seus dados de treinamento, limitando-os a responder perguntas conhecidas. Wolf enfatiza a necessidade de uma IA que possa desafiar o conhecimento estabelecido e perguntar: "E se todos estiverem errados sobre isso?" mesmo quando todas as evidências sugerem o contrário.
Ele atribui parte do problema a uma "crise de avaliação" na IA, onde os benchmarks usados para medir melhorias nos sistemas frequentemente se concentram em perguntas com respostas claras e fechadas. Para abordar isso, Wolf propõe que a indústria de IA deve mudar para avaliar a capacidade da IA de adotar abordagens contrafactuais ousadas, fazer propostas gerais a partir de pistas mínimas e formular perguntas não óbvias que poderiam levar a novos caminhos de pesquisa.
Embora reconheça o desafio em definir tal medida, Wolf acredita que é um esforço que vale a pena. Ele enfatiza que a essência da ciência está em fazer as perguntas certas e desafiar o conhecimento aprendido. Em vez de um aluno nota A+ que pode responder todas as perguntas com conhecimento geral, Wolf argumenta que o necessário é um aluno nota B que possa ver e questionar o que os outros deixaram passar.
Dentro dos Detalhes Revelados Sobre o Gemini de Próxima Geração: Poder de Cálculo Sobrecarregado, Equipes Internas Discordaram Sobre Prioridades de Desenvolvimento e Alocação de Recursos
Os relatórios indicam que o lançamento do tão aguardado modelo Gemini de próxima geração do Google foi adiado. Desentendimentos internos sobre prioridades de desenvolvimento e alocação de recursos, combinados com capacidade computacional limitada e p
A OpenAI descarta preocupações com a desaceleração do crescimento e afirma que múltiplas unidades de negócio estão acelerando.
Em resposta à escrutínio externo sobre o desaceleramento do crescimento das vendas e o não cumprimento de metas internas, o líder em inteligência artificial, OpenAI, emitiu uma declaração confiante na terça-feira, 28 de abril. A empresa esclareceu qu
Alibaba Super Cup: Qwen3.8-Max estreia com aprimoramento nas ferramentas de programação e escritório
A Alibaba revelou oficialmente o Qwen3.8-Max, um modelo de base de próxima geração com 2,4 trilhão de parâmetros. Este avanço significativo em IA oferece ganhos substanciais de desempenho em áreas principais, como programação e tarefas profissionais
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!





Lar






