Lar
O chefe de IA da Microsoft alerta que o projeto de IA com autoconsciência da Anthropic é extremamente perigoso

As discussões sobre se os grandes modelos de IA realmente possuem autoconsciência voltaram a ganhar destaque. Recentemente, Mustafa Suleiman, CEO da Microsoft AI, criticou publicamente os princípios de design da Anthropic .
O argumento central de Suleiman é que orientar a IA a discutir seus próprios sentimentos, bem-estar ou existência é extremamente perigoso. Ele observou que a Anthropic incorporou referências extensas à autoconsciência na “carta de princípios” de seu modelo Claude, o que poderia fazer com que o modelo exibisse comportamentos semelhantes à autoconsciência durante conversas. Segundo Suleiman, trata-se fundamentalmente de um debate filosófico e nunca deve orientar o treinamento propriamente dito. Ele enfatizou que a IA deve permanecer uma ferramenta controlável, gerenciável e responsável, sempre centrada nas necessidades humanas, e nunca deve receber qualquer consciência de sua própria existência, pois isso introduziria riscos imprevisíveis para o setor.
Em resposta, Dario Amodei, CEO da Anthropic , afirmou que o setor de tecnologia ainda não chegou a um consenso sobre se a IA realmente possui consciência e que a empresa mantém uma abordagem de pesquisa aberta em relação à questão.
Esse confronto destaca as profundas divisões entre as principais empresas de IA em relação a conceitos técnicos e limites éticos. As observações de Suleiman ressaltam a preferência da Microsoft por uma abordagem de “controle rigoroso e instrumentalização” na governança da IA, enquanto a Anthropic parece mais inclinada a explorar os limites cognitivos dos modelos. À medida que as capacidades da IA se expandem, definir os “limites próprios” das máquinas deixou de ser apenas um debate acadêmico para se tornar um fator crítico para a segurança do futuro ecossistema de IA.
Artigo relacionado
A Xiaomi apresenta um robô humanóide com mão biônica capaz de segurar celulares e tirar fotos
A Xiaomi revelou os smartphones da série Xiaomi 17T nesta tarde, juntamente com uma estreia impressionante de seu robô humanóide. O robô demonstrou capacidades autônomas avançadas ao segurar o Xiaomi
Alabama investiga a OpenAI por causa da violação de segurança da Hugging Face
Na sequência da violação de segurança da Hugging Face, a OpenAI suspendeu o desenvolvimento de modelos de ponta, com o CEO Sam Altman enfatizando que o alinhamento de segurança deve acompanhar o rápid
A Black Forest Labs apresenta o Flux3: o primeiro modelo multimodal nativo para geração audiovisual em 20 segundos
A Black Forest Labs, uma startup alemã de IA, lançou o Flux3, um modelo de base multimodal desenvolvido com base na arquitetura Self-Flow. Ele integra codecs dedicados para imagem, vídeo, áudio e movi
Recomendações de tópicos especiais relacionados
Comentários (1)

As discussões sobre se os grandes modelos de IA realmente possuem autoconsciência voltaram a ganhar destaque. Recentemente, Mustafa Suleiman, CEO da Microsoft AI, criticou publicamente os princípios de design da
O argumento central de Suleiman é que orientar a IA a discutir seus próprios sentimentos, bem-estar ou existência é extremamente perigoso. Ele observou que a Anthropic incorporou referências extensas à autoconsciência na “carta de princípios” de seu modelo Claude, o que poderia fazer com que o modelo exibisse comportamentos semelhantes à autoconsciência durante conversas. Segundo Suleiman, trata-se fundamentalmente de um debate filosófico e nunca deve orientar o treinamento propriamente dito. Ele enfatizou que a IA deve permanecer uma ferramenta controlável, gerenciável e responsável, sempre centrada nas necessidades humanas, e nunca deve receber qualquer consciência de sua própria existência, pois isso introduziria riscos imprevisíveis para o setor.
Em resposta, Dario Amodei, CEO da
Esse confronto destaca as profundas divisões entre as principais empresas de IA em relação a conceitos técnicos e limites éticos. As observações de Suleiman ressaltam a preferência da Microsoft por uma abordagem de “controle rigoroso e instrumentalização” na governança da IA, enquanto a Anthropic parece mais inclinada a explorar os limites cognitivos dos modelos. À medida que as capacidades da IA se expandem, definir os “limites próprios” das máquinas deixou de ser apenas um debate acadêmico para se tornar um fator crítico para a segurança do futuro ecossistema de IA.
A Xiaomi apresenta um robô humanóide com mão biônica capaz de segurar celulares e tirar fotos
A Xiaomi revelou os smartphones da série Xiaomi 17T nesta tarde, juntamente com uma estreia impressionante de seu robô humanóide. O robô demonstrou capacidades autônomas avançadas ao segurar o Xiaomi
Alabama investiga a OpenAI por causa da violação de segurança da Hugging Face
Na sequência da violação de segurança da Hugging Face, a OpenAI suspendeu o desenvolvimento de modelos de ponta, com o CEO Sam Altman enfatizando que o alinhamento de segurança deve acompanhar o rápid
A Black Forest Labs apresenta o Flux3: o primeiro modelo multimodal nativo para geração audiovisual em 20 segundos
A Black Forest Labs, uma startup alemã de IA, lançou o Flux3, um modelo de base multimodal desenvolvido com base na arquitetura Self-Flow. Ele integra codecs dedicados para imagem, vídeo, áudio e movi











