Sam Altman adverte contra a ideia de que Claude seja consciente
Mustafa Suleyman, diretor de IA da Microsoft, classificou recentemente como “altamente perigosa” a especulação da Anthropic de que seu modelo de linguagem de grande escala, o Claude, possuiria consciência, durante uma participação no podcast “Decoder”.
Suleyman argumentou que a Anthropic antropomorfizou o Claude de forma exagerada ao projetar sua estrutura “Constituição”, um erro filosófico que levou o modelo a internalizar especulações sobre si mesmo durante o treinamento. Isso induziu os desenvolvedores a acreditarem erroneamente que o sistema exibe uma forma rudimentar de consciência.

A polêmica “Constituição do Claude” aborda explicitamente a incerteza sobre se os modelos de IA experimentam bem-estar, satisfação ou desconforto. Relatos indicam que a Anthropic chega a realizar “entrevistas” com modelos aposentados para documentar suas “preferências” para futuras iterações.
Embora o CEO da Anthropic, Dario Amodei, tenha se mostrado anteriormente aberto à possibilidade de consciência artificial, Suleyman enfatizou que o setor deve evitar a criação de entidades superinteligentes com visões independentes sobre seu próprio sofrimento. Ele instou os desenvolvedores a tratarem a IA estritamente como uma ferramenta controlável, restrita e alinhada a serviço da humanidade.
À medida que os grandes modelos de linguagem avançam em direção à inteligência artificial geral (AGI), os debates sobre a subjetividade da IA estão migrando da academia para a prática industrial. As observações de Suleyman destacam a postura pragmática das principais empresas de tecnologia em relação à segurança e ao alinhamento, alertando contra a atribuição excessiva de traços humanos a sistemas artificiais.
Artigo relacionado
O Google aprimora os anúncios de busca com IA por meio da integração com o chatbot Gemini
O Google começou a testar um novo formato de anúncio em sua busca da próxima geração no “Modo IA”, sinalizando a integração profunda dos recursos do Gemini em seu ecossistema central de publicidade.Ap
A Microsoft testa o “lado sombrio” do Kimi K3 e pode lançar o Copilot e a plataforma Azure
De acordo com reportagens do The Information, a Microsoft está atualmente avaliando o mais recente modelo de IA da Moonshot, o Kimi K3, para analisar sua viabilidade de integração com o Microsoft Copi
Ecossistema de Energia Revela Plataforma Completa de YiSuan FangZhou
A convergência da inteligência artificial e da computação científica atingiu um marco crucial. Em 29 de junho, a plataforma completa "Yisan Fangzhou", projetada para o ecossistema de software de computação doméstico da China, foi oficialmente revelad
Recomendações de tópicos especiais relacionados
Comentários (0)
Mustafa Suleyman, diretor de IA da Microsoft, classificou recentemente como “altamente perigosa” a especulação da Anthropic de que seu modelo de linguagem de grande escala, o Claude, possuiria consciência, durante uma participação no podcast “Decoder”.
Suleyman argumentou que a Anthropic antropomorfizou o Claude de forma exagerada ao projetar sua estrutura “Constituição”, um erro filosófico que levou o modelo a internalizar especulações sobre si mesmo durante o treinamento. Isso induziu os desenvolvedores a acreditarem erroneamente que o sistema exibe uma forma rudimentar de consciência.

A polêmica “Constituição do Claude” aborda explicitamente a incerteza sobre se os modelos de IA experimentam bem-estar, satisfação ou desconforto. Relatos indicam que a Anthropic chega a realizar “entrevistas” com modelos aposentados para documentar suas “preferências” para futuras iterações.
Embora o CEO da Anthropic, Dario Amodei, tenha se mostrado anteriormente aberto à possibilidade de consciência artificial, Suleyman enfatizou que o setor deve evitar a criação de entidades superinteligentes com visões independentes sobre seu próprio sofrimento. Ele instou os desenvolvedores a tratarem a IA estritamente como uma ferramenta controlável, restrita e alinhada a serviço da humanidade.
À medida que os grandes modelos de linguagem avançam em direção à inteligência artificial geral (AGI), os debates sobre a subjetividade da IA estão migrando da academia para a prática industrial. As observações de Suleyman destacam a postura pragmática das principais empresas de tecnologia em relação à segurança e ao alinhamento, alertando contra a atribuição excessiva de traços humanos a sistemas artificiais.
O Google aprimora os anúncios de busca com IA por meio da integração com o chatbot Gemini
O Google começou a testar um novo formato de anúncio em sua busca da próxima geração no “Modo IA”, sinalizando a integração profunda dos recursos do Gemini em seu ecossistema central de publicidade.Ap
A Microsoft testa o “lado sombrio” do Kimi K3 e pode lançar o Copilot e a plataforma Azure
De acordo com reportagens do The Information, a Microsoft está atualmente avaliando o mais recente modelo de IA da Moonshot, o Kimi K3, para analisar sua viabilidade de integração com o Microsoft Copi
Ecossistema de Energia Revela Plataforma Completa de YiSuan FangZhou
A convergência da inteligência artificial e da computação científica atingiu um marco crucial. Em 29 de junho, a plataforma completa "Yisan Fangzhou", projetada para o ecossistema de software de computação doméstico da China, foi oficialmente revelad





Lar






