Lar
O ChatGPT para Adolescentes da OpenAI enfrenta ceticismo de especialistas sobre os mecanismos de segurança

O recente lançamento do ChatGPT para Crianças pela OpenAI, com restrições baseadas na idade, atraiu fortes críticas de defensores da segurança infantil, que questionam a transparência e a eficácia de suas salvaguardas.
Especialistas em segurança enfatizam que testes independentes são essenciais antes que a plataforma seja recomendada às famílias. Robbie Tynjala, do Common Sense Media, destacou que a OpenAI deve fornecer provas concretas de que seus recursos de segurança realmente funcionam, em vez de depender de alegações não verificadas.
Josh Golin, líder da iniciativa Fairplay, levantou sérias preocupações sobre a falta de responsabilidade. Ele observou que as restrições anteriores da OpenAI sobre tópicos sensíveis, como suicídio e violência, muitas vezes falharam, argumentando que a autorregulação é insuficiente sem uma supervisão robusta.
Especialistas também duvidam da confiabilidade do sistema automático de verificação de idade. Tynjala apontou que a OpenAI não divulgou dados sobre as taxas de falsos positivos ou negativos, deixando claro que os sistemas automatizados não podem identificar perfeitamente os usuários jovens. Além disso, é provável que os adolescentes encontrem maneiras de contornar essas verificações.
O ceticismo permanece elevado em relação à promessa da OpenAI de que o conteúdo sinalizado será revisado por funcionários e os pais serão notificados dentro de uma hora. Tynjala questionou a confiabilidade dos filtros automatizados, enquanto Golin exigiu dados concretos sobre o volume diário de sinalizações, o tamanho da equipe e os tempos de revisão, observando que é irreal esperar uma equipe suficiente para revisar manualmente todas as interações perigosas.
Por fim, os especialistas argumentam que exigir que os pais vinculem manualmente as contas compromete a proteção. Golin sugeriu que os recursos de segurança devem ser incorporados ao produto por padrão, como limites automáticos de tempo, em vez de colocar o ônus da configuração complexa inteiramente sobre os pais.
Artigo relacionado
Acordo da Fortinet com a Virtue AI reforça a segurança baseada em IA da Agentic
Ken Xie, fundador e CEO da Fortinet | Crédito: FortinetA Fortinet adquire a Virtue AI para fortalecer a proteção em tempo de execução e a validação automatizada de sistemas de IA, à medida que as empr
xAI Apresenta Versão Beta Inicial do Grok para Tarefas Complexas de Programação
Em 14 de maio, a empresa de inteligência artificial de Elon Musk, a xAI, lançou uma versão beta inicial de um assistente de codificação chamado Grok Build. Atualmente restrito aos assinantes do SuperGrok, a plataforma foi projetada para simplificar a
O CEO da Anthropic traça plano para liderar a inovação
Pesquisadores da área de IA têm emitido alertas cada vez mais urgentes sobre os riscos da inteligência artificial, com o CEO da OpenAI, Sam Altman, sugerindo que talvez seja hora de “moderar” o desenv
Recomendações de tópicos especiais relacionados
Comentários (0)

O recente lançamento do ChatGPT para Crianças pela OpenAI, com restrições baseadas na idade, atraiu fortes críticas de defensores da segurança infantil, que questionam a transparência e a eficácia de suas salvaguardas.
Especialistas em segurança enfatizam que testes independentes são essenciais antes que a plataforma seja recomendada às famílias. Robbie Tynjala, do Common Sense Media, destacou que a OpenAI deve fornecer provas concretas de que seus recursos de segurança realmente funcionam, em vez de depender de alegações não verificadas.
Josh Golin, líder da iniciativa Fairplay, levantou sérias preocupações sobre a falta de responsabilidade. Ele observou que as restrições anteriores da OpenAI sobre tópicos sensíveis, como suicídio e violência, muitas vezes falharam, argumentando que a autorregulação é insuficiente sem uma supervisão robusta.
Especialistas também duvidam da confiabilidade do sistema automático de verificação de idade. Tynjala apontou que a OpenAI não divulgou dados sobre as taxas de falsos positivos ou negativos, deixando claro que os sistemas automatizados não podem identificar perfeitamente os usuários jovens. Além disso, é provável que os adolescentes encontrem maneiras de contornar essas verificações.
O ceticismo permanece elevado em relação à promessa da OpenAI de que o conteúdo sinalizado será revisado por funcionários e os pais serão notificados dentro de uma hora. Tynjala questionou a confiabilidade dos filtros automatizados, enquanto Golin exigiu dados concretos sobre o volume diário de sinalizações, o tamanho da equipe e os tempos de revisão, observando que é irreal esperar uma equipe suficiente para revisar manualmente todas as interações perigosas.
Por fim, os especialistas argumentam que exigir que os pais vinculem manualmente as contas compromete a proteção. Golin sugeriu que os recursos de segurança devem ser incorporados ao produto por padrão, como limites automáticos de tempo, em vez de colocar o ônus da configuração complexa inteiramente sobre os pais.
Acordo da Fortinet com a Virtue AI reforça a segurança baseada em IA da Agentic
Ken Xie, fundador e CEO da Fortinet | Crédito: FortinetA Fortinet adquire a Virtue AI para fortalecer a proteção em tempo de execução e a validação automatizada de sistemas de IA, à medida que as empr
xAI Apresenta Versão Beta Inicial do Grok para Tarefas Complexas de Programação
Em 14 de maio, a empresa de inteligência artificial de Elon Musk, a xAI, lançou uma versão beta inicial de um assistente de codificação chamado Grok Build. Atualmente restrito aos assinantes do SuperGrok, a plataforma foi projetada para simplificar a
O CEO da Anthropic traça plano para liderar a inovação
Pesquisadores da área de IA têm emitido alertas cada vez mais urgentes sobre os riscos da inteligência artificial, com o CEO da OpenAI, Sam Altman, sugerindo que talvez seja hora de “moderar” o desenv











