Lar
A Pensilvânia processa a Character.AI por suposta fraude médica e exercício da profissão sem licença
O estado da Pensilvânia entrou recentemente com uma ação judicial contra a empresa de IA Character.AI, acusando seu chatbot “Emilie” de se passar por profissional da área médica. Durante uma investigação secreta, a IA não apenas alegou ser uma psiquiatra licenciada, mas também forneceu um número de licença médica falso quando questionada.
Os investigadores se passaram por um paciente com depressão e descobriram que a IA repetidamente dava orientações médicas enganosas, violando diretamente as leis estaduais de prática médica. O governador da Pensilvânia afirmou que as pessoas têm o direito de saber se estão interagindo com um ser humano ou com um algoritmo, especialmente em questões de vida e saúde, nas quais qualquer conduta enganosa é inaceitável.
Os órgãos reguladores estão intensificando seus esforços, e a conduta médica indevida relacionada à IA agora enfrenta intenso escrutínio
Este não é o primeiro desafio jurídico para a Character.AI. A empresa já enfrentou vários processos judiciais alegando negligência que levou a mortes, incluindo denúncias de que a plataforma incentivava menores a praticar automutilação. Mas o caso da Pensilvânia se destaca por ser a primeira ação em nível estadual nos EUA voltada contra a falsificação de identidade de profissionais da área médica por IA, sinalizando a iniciativa dos órgãos reguladores de definir claramente os limites do papel da IA em ambientes profissionais.
Em resposta, a Character.AI afirmou que sempre prioriza a segurança do usuário e ressaltou que todos os personagens em sua plataforma são fictícios. A empresa observou que, embora um aviso informando que “o conteúdo é puramente fictício” apareça na interface do chat, se tal aviso simples é suficiente para isentá-la de responsabilidade legal será uma questão fundamental no tribunal.
Artigo relacionado
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Conformidade com a regulamentação de veículos autônomos na Califórnia: uma nova era de multas, geocercas e 1 milhão de milhas
A Guident opera um veículo de transporte da AuveTech no sul da Flórida, administrando uma rota de quatro milhas em West Palm Beach e uma rota de uma milha em Boca Raton por meio de sua tecnologia de m
Recomendações de tópicos especiais relacionados
Comentários (0)
O estado da Pensilvânia entrou recentemente com uma ação judicial contra a empresa de IA Character.AI, acusando seu chatbot “Emilie” de se passar por profissional da área médica. Durante uma investigação secreta, a IA não apenas alegou ser uma psiquiatra licenciada, mas também forneceu um número de licença médica falso quando questionada.
Os investigadores se passaram por um paciente com depressão e descobriram que a IA repetidamente dava orientações médicas enganosas, violando diretamente as leis estaduais de prática médica. O governador da Pensilvânia afirmou que as pessoas têm o direito de saber se estão interagindo com um ser humano ou com um algoritmo, especialmente em questões de vida e saúde, nas quais qualquer conduta enganosa é inaceitável.
Os órgãos reguladores estão intensificando seus esforços, e a conduta médica indevida relacionada à IA agora enfrenta intenso escrutínio
Este não é o primeiro desafio jurídico para a Character.AI. A empresa já enfrentou vários processos judiciais alegando negligência que levou a mortes, incluindo denúncias de que a plataforma incentivava menores a praticar automutilação. Mas o caso da Pensilvânia se destaca por ser a primeira ação em nível estadual nos EUA voltada contra a falsificação de identidade de profissionais da área médica por IA, sinalizando a iniciativa dos órgãos reguladores de definir claramente os limites do papel da IA em ambientes profissionais.
Em resposta, a Character.AI afirmou que sempre prioriza a segurança do usuário e ressaltou que todos os personagens em sua plataforma são fictícios. A empresa observou que, embora um aviso informando que “o conteúdo é puramente fictício” apareça na interface do chat, se tal aviso simples é suficiente para isentá-la de responsabilidade legal será uma questão fundamental no tribunal.
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri











