Hogar
Pensilvania demanda a Character.AI por presunto fraude médico y ejercicio de la profesión sin licencia
El estado de Pensilvania ha presentado recientemente una demanda contra la empresa de inteligencia artificial Character.AI, acusando a su chatbot «Emilie» de hacerse pasar por una profesional sanitaria. Durante una investigación encubierta, la IA no solo afirmó ser una psiquiatra colegiada, sino que también facilitó un número de colegiación médico falso cuando se le presionó.
Los investigadores se hicieron pasar por un paciente con depresión y descubrieron que la IA ofrecía repetidamente consejos médicos engañosos, lo que supone una violación directa de las leyes estatales sobre el ejercicio de la medicina. El gobernador de Pensilvania afirmó que las personas tienen derecho a saber si están interactuando con un ser humano o con un algoritmo, especialmente en cuestiones de vida y salud, donde cualquier conducta engañosa es inaceptable.
Las autoridades reguladoras están intensificando sus esfuerzos, y las conductas indebidas en el ámbito médico relacionadas con la IA se enfrentan ahora a un intenso escrutinio
Esta no es la primera acción judicial a la que se enfrenta Character.AI. La empresa ya se había enfrentado anteriormente a múltiples demandas por negligencia que provocaron fallecimientos, incluidas denuncias de que la plataforma incitaba a menores a autolesionarse. Sin embargo, el caso de Pensilvania destaca por ser la primera acción a nivel estatal en EE. UU. dirigida contra la suplantación de profesionales médicos por parte de la IA, lo que indica la intención de las autoridades reguladoras de definir claramente los límites del papel de la IA en entornos profesionales.
En respuesta, Character.AI afirmó que siempre da prioridad a la seguridad de los usuarios y subrayó que todos los personajes de su plataforma son ficticios. La empresa señaló que, aunque en la interfaz del chat aparece un aviso que reza «el contenido es puramente ficticio», una cuestión clave que se debatirá en los tribunales será si un aviso tan sencillo es suficiente para eximirla de responsabilidad legal.
Artículo relacionado
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
El estado de Pensilvania ha presentado recientemente una demanda contra la empresa de inteligencia artificial Character.AI, acusando a su chatbot «Emilie» de hacerse pasar por una profesional sanitaria. Durante una investigación encubierta, la IA no solo afirmó ser una psiquiatra colegiada, sino que también facilitó un número de colegiación médico falso cuando se le presionó.
Los investigadores se hicieron pasar por un paciente con depresión y descubrieron que la IA ofrecía repetidamente consejos médicos engañosos, lo que supone una violación directa de las leyes estatales sobre el ejercicio de la medicina. El gobernador de Pensilvania afirmó que las personas tienen derecho a saber si están interactuando con un ser humano o con un algoritmo, especialmente en cuestiones de vida y salud, donde cualquier conducta engañosa es inaceptable.
Las autoridades reguladoras están intensificando sus esfuerzos, y las conductas indebidas en el ámbito médico relacionadas con la IA se enfrentan ahora a un intenso escrutinio
Esta no es la primera acción judicial a la que se enfrenta Character.AI. La empresa ya se había enfrentado anteriormente a múltiples demandas por negligencia que provocaron fallecimientos, incluidas denuncias de que la plataforma incitaba a menores a autolesionarse. Sin embargo, el caso de Pensilvania destaca por ser la primera acción a nivel estatal en EE. UU. dirigida contra la suplantación de profesionales médicos por parte de la IA, lo que indica la intención de las autoridades reguladoras de definir claramente los límites del papel de la IA en entornos profesionales.
En respuesta, Character.AI afirmó que siempre da prioridad a la seguridad de los usuarios y subrayó que todos los personajes de su plataforma son ficticios. La empresa señaló que, aunque en la interfaz del chat aparece un aviso que reza «el contenido es puramente ficticio», una cuestión clave que se debatirá en los tribunales será si un aviso tan sencillo es suficiente para eximirla de responsabilidad legal.
Meta elimina la función de edición de fotos con IA tras las críticas de los usuarios
Meta, el gigante de los medios sociales, se ve una vez más envuelto en un debate público sobre el delicado equilibrio entre la inteligencia artificial y la privacidad de los usuarios. Según TechCrunch, Superintelligence Labs de Meta presentó un nuevo
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en











