Lar
Hinton, pioneiro em IA, alerta que o foco no lucro das gigantes da tecnologia pode transformar os seres humanos em “bebês” diante da superinteligência

À medida que a competição global em IA se intensifica, Geoffrey Hinton — o “pai da IA”, ganhador do Prêmio Nobel — lançou mais um alerta severo. Em uma entrevista recente à revista Fortune, ele observou que os líderes tecnológicos de hoje raramente consideram aonde suas inovações acabam levando, sendo, em vez disso, movidos por lucros de curto prazo.
Hinton observou que executivos e pesquisadores estão profundamente divididos: os executivos se concentram nos lucros trimestrais, enquanto os engenheiros lidam com tarefas específicas, como melhorar a nitidez das imagens ou o realismo dos vídeos. A questão mais importante — o que acontecerá com a humanidade — fica em segundo plano em meio à pressa pela comercialização.
Hinton classifica os riscos relacionados à IA em duas áreas distintas:
Uso indevido por agentes mal-intencionados: deepfakes, ataques cibernéticos e a criação de vírus com auxílio da IA já são ameaças emergentes.
IA se tornando rebelde: essa é a preocupação mais profunda de Hinton. Ele alerta que, assim que a IA atingir a superinteligência, ela poderá desenvolver seu próprio impulso de sobrevivência e controle, tornando obsoleta a ideia de supervisão humana.
Hinton apresenta uma previsão assustadora: após atingir a superinteligência, a probabilidade de a IA causar a extinção da humanidade poderia chegar a 10% a 20%. Para combater isso, ele propõe um mecanismo inspirado na biologia — uma abordagem baseada no “instinto maternal”.
“O único exemplo de um ser mais inteligente sendo influenciado por um mais fraco é a influência de um bebê sobre sua mãe.”
Artigo relacionado
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Conformidade com a regulamentação de veículos autônomos na Califórnia: uma nova era de multas, geocercas e 1 milhão de milhas
A Guident opera um veículo de transporte da AuveTech no sul da Flórida, administrando uma rota de quatro milhas em West Palm Beach e uma rota de uma milha em Boca Raton por meio de sua tecnologia de m
Recomendações de tópicos especiais relacionados
Comentários (0)

À medida que a competição global em IA se intensifica, Geoffrey Hinton — o “pai da IA”, ganhador do Prêmio Nobel — lançou mais um alerta severo. Em uma entrevista recente à revista Fortune, ele observou que os líderes tecnológicos de hoje raramente consideram aonde suas inovações acabam levando, sendo, em vez disso, movidos por lucros de curto prazo.
Hinton observou que executivos e pesquisadores estão profundamente divididos: os executivos se concentram nos lucros trimestrais, enquanto os engenheiros lidam com tarefas específicas, como melhorar a nitidez das imagens ou o realismo dos vídeos. A questão mais importante — o que acontecerá com a humanidade — fica em segundo plano em meio à pressa pela comercialização.
Hinton classifica os riscos relacionados à IA em duas áreas distintas:
Uso indevido por agentes mal-intencionados: deepfakes, ataques cibernéticos e a criação de vírus com auxílio da IA já são ameaças emergentes.
IA se tornando rebelde: essa é a preocupação mais profunda de Hinton. Ele alerta que, assim que a IA atingir a superinteligência, ela poderá desenvolver seu próprio impulso de sobrevivência e controle, tornando obsoleta a ideia de supervisão humana.
Hinton apresenta uma previsão assustadora: após atingir a superinteligência, a probabilidade de a IA causar a extinção da humanidade poderia chegar a 10% a 20%. Para combater isso, ele propõe um mecanismo inspirado na biologia — uma abordagem baseada no “instinto maternal”.
“O único exemplo de um ser mais inteligente sendo influenciado por um mais fraco é a influência de um bebê sobre sua mãe.”
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri











