A Superinteligência Chega: Vamos Deixá-la Entrar?

Carregando o player…
As empresas de inteligência artificial vêm falando sobre uma IA superinteligente como se fosse inevitável, mas recentes incidentes de segurança, como a violação do Hugging Face pela OpenAI, estão demonstrando os potenciais perigos de implantar sistemas de IA mais capazes do que os seres humanos. Então, o que acontece quando não conseguimos controlar de forma confiável o que esses sistemas fazem?
Neste episódio do podcast Equity da TechCrunch, Rebecca Bellan é acompanhada por Connor Leahy, pesquisador de IA, empreendedor e agora diretor executivo dos Estados Unidos da organização sem fins lucrativos ControlAI, que defende uma abordagem muito mais radical para a segurança da IA: impedir que as empresas desenvolvam superinteligência de qualquer forma. Leahy explica por que ele acredita que os riscos se tornaram grandes demais para serem gerenciados apenas por meio de alinhamento e contenção, e como o que parecia distante há seis meses agora está sendo respaldado por uma onda de nova legislação.
Inscreva-se no Equity no YouTube, Apple Podcasts, Overcast, Spotify e em todas as plataformas de podcasts. Você também pode seguir o Equity no X e Threads, em @EquityPod.
Artigo relacionado
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
A corrida da IA muda o foco das fronteiras para aplicações mais amplas
Durante semanas neste verão, o setor de IA focou nos mais recentes modelos de fronteira da Anthropic e nos esforços de Washington para regular o acesso. No entanto, enquanto a atenção permanecia na vanguarda, os desenvolvedores continuaram a construi
A Neko Health levanta US$ 700 milhões para expandir a utilização de exames corporais com IA nos EUA
A Neko Health levantou US$ 700 milhões em financiamento para implantar seus exames corporais baseados em IA nos Estados Unidos, começando com uma clínica emblemática em Nova York. Essa plataforma de t
Recomendações de tópicos especiais relacionados
Comentários (0)

Carregando o player…
As empresas de inteligência artificial vêm falando sobre uma IA superinteligente como se fosse inevitável, mas recentes incidentes de segurança, como a violação do Hugging Face pela OpenAI, estão demonstrando os potenciais perigos de implantar sistemas de IA mais capazes do que os seres humanos. Então, o que acontece quando não conseguimos controlar de forma confiável o que esses sistemas fazem?
Neste episódio do podcast Equity da TechCrunch, Rebecca Bellan é acompanhada por Connor Leahy, pesquisador de IA, empreendedor e agora diretor executivo dos Estados Unidos da organização sem fins lucrativos ControlAI, que defende uma abordagem muito mais radical para a segurança da IA: impedir que as empresas desenvolvam superinteligência de qualquer forma. Leahy explica por que ele acredita que os riscos se tornaram grandes demais para serem gerenciados apenas por meio de alinhamento e contenção, e como o que parecia distante há seis meses agora está sendo respaldado por uma onda de nova legislação.
Inscreva-se no Equity no YouTube, Apple Podcasts, Overcast, Spotify e em todas as plataformas de podcasts. Você também pode seguir o Equity no X e Threads, em @EquityPod.
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
A corrida da IA muda o foco das fronteiras para aplicações mais amplas
Durante semanas neste verão, o setor de IA focou nos mais recentes modelos de fronteira da Anthropic e nos esforços de Washington para regular o acesso. No entanto, enquanto a atenção permanecia na vanguarda, os desenvolvedores continuaram a construi
A Neko Health levanta US$ 700 milhões para expandir a utilização de exames corporais com IA nos EUA
A Neko Health levantou US$ 700 milhões em financiamento para implantar seus exames corporais baseados em IA nos Estados Unidos, começando com uma clínica emblemática em Nova York. Essa plataforma de t





Lar






