Maison
La Pennsylvanie poursuit Character.AI pour fraude médicale présumée et exercice illégal de la profession médicale
L'État de Pennsylvanie a récemment intenté une action en justice contre la société d'IA Character.AI, accusant son chatbot « Emilie » de se faire passer pour un professionnel de santé. Au cours d'une enquête menée sous couverture, l'IA a non seulement prétendu être une psychiatre agréée, mais a également fourni un faux numéro de licence médicale lorsqu'on lui a demandé de le faire.
Les enquêteurs, se faisant passer pour un patient souffrant de dépression, ont constaté que l’IA donnait à plusieurs reprises des conseils médicaux trompeurs, enfreignant ainsi directement les lois de l’État relatives à l’exercice de la médecine. Le gouverneur de Pennsylvanie a déclaré que les citoyens méritaient de savoir s’ils interagissaient avec un être humain ou un algorithme, en particulier dans les domaines liés à la vie et à la santé, où tout comportement trompeur est inacceptable.
Les autorités de régulation intensifient leurs efforts, et les fautes professionnelles médicales liées à l’IA font désormais l’objet d’une surveillance accrue
Ce n’est pas la première action en justice intentée contre Character.AI. L’entreprise a déjà fait l’objet de plusieurs poursuites judiciaires pour négligence ayant entraîné des décès, notamment des plaintes selon lesquelles la plateforme encourageait des mineurs à s’automutiler. Mais l’affaire de Pennsylvanie est remarquable en ce qu’il s’agit de la première action au niveau d’un État aux États-Unis visant l’usurpation d’identité de professionnels de santé par l’IA, ce qui témoigne de la volonté des régulateurs de définir clairement les limites du rôle de l’IA dans les contextes professionnels.
En réponse, Character.AI a déclaré qu’elle accordait toujours la priorité à la sécurité des utilisateurs et a souligné que tous les personnages de sa plateforme étaient fictifs. L’entreprise a fait remarquer que, bien qu’une mention indiquant que « le contenu est purement fictif » apparaisse dans l’interface de chat, la question de savoir si une simple mention de ce type suffit à la dégager de toute responsabilité juridique sera un enjeu majeur devant le tribunal.
Article connexe
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés
Conformité des véhicules autonomes en Californie : une nouvelle ère marquée par les amendes, les zones de géolocalisation et 1 million de miles
Guident exploite une navette AuveTech dans le sud de la Floride, gérant un parcours de quatre miles à West Palm Beach et un parcours d’un mile à Boca Raton grâce à sa technologie de surveillance à dis
Recommandations de sujets spéciaux liés
commentaires (0)
L'État de Pennsylvanie a récemment intenté une action en justice contre la société d'IA Character.AI, accusant son chatbot « Emilie » de se faire passer pour un professionnel de santé. Au cours d'une enquête menée sous couverture, l'IA a non seulement prétendu être une psychiatre agréée, mais a également fourni un faux numéro de licence médicale lorsqu'on lui a demandé de le faire.
Les enquêteurs, se faisant passer pour un patient souffrant de dépression, ont constaté que l’IA donnait à plusieurs reprises des conseils médicaux trompeurs, enfreignant ainsi directement les lois de l’État relatives à l’exercice de la médecine. Le gouverneur de Pennsylvanie a déclaré que les citoyens méritaient de savoir s’ils interagissaient avec un être humain ou un algorithme, en particulier dans les domaines liés à la vie et à la santé, où tout comportement trompeur est inacceptable.
Les autorités de régulation intensifient leurs efforts, et les fautes professionnelles médicales liées à l’IA font désormais l’objet d’une surveillance accrue
Ce n’est pas la première action en justice intentée contre Character.AI. L’entreprise a déjà fait l’objet de plusieurs poursuites judiciaires pour négligence ayant entraîné des décès, notamment des plaintes selon lesquelles la plateforme encourageait des mineurs à s’automutiler. Mais l’affaire de Pennsylvanie est remarquable en ce qu’il s’agit de la première action au niveau d’un État aux États-Unis visant l’usurpation d’identité de professionnels de santé par l’IA, ce qui témoigne de la volonté des régulateurs de définir clairement les limites du rôle de l’IA dans les contextes professionnels.
En réponse, Character.AI a déclaré qu’elle accordait toujours la priorité à la sécurité des utilisateurs et a souligné que tous les personnages de sa plateforme étaient fictifs. L’entreprise a fait remarquer que, bien qu’une mention indiquant que « le contenu est purement fictif » apparaisse dans l’interface de chat, la question de savoir si une simple mention de ce type suffit à la dégager de toute responsabilité juridique sera un enjeu majeur devant le tribunal.
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés











