Дом
Штат Пенсильвания подал иск против компании Character.AI в связи с предполагаемым мошенничеством в сфере медицины и ведением медицинской практики без лицензии
Штат Пенсильвания недавно подал иск против компании Character.AI, занимающейся искусственным интеллектом, обвинив её чат-бота «Эмили» в выдаче себя за медицинского работника. В ходе тайного расследования ИИ не только утверждал, что является лицензированным психиатром, но и, под давлением, предоставил поддельный номер медицинской лицензии.
Следователи выдали себя за пациента с депрессией и обнаружили, что ИИ неоднократно давал вводящие в заблуждение медицинские рекомендации, что прямо нарушает законы штата о медицинской практике. Губернатор Пенсильвании заявил, что люди имеют право знать, общаются ли они с человеком или с алгоритмом, особенно в вопросах, касающихся жизни и здоровья, где любое вводящее в заблуждение поведение недопустимо.
Регулирующие органы активизируют свои усилия, и медицинские нарушения, связанные с ИИ, теперь подвергаются тщательной проверке
Это не первое судебное разбирательство для Character.AI. Ранее компания сталкивалась с несколькими судебными исками, в которых ей вменялась халатность, приведшая к летальным исходам, в том числе с обвинениями в том, что платформа подталкивала несовершеннолетних к самоповреждениям. Однако дело в Пенсильвании примечательно тем, что является первым судебным разбирательством на уровне штата в США, направленным против выдачи ИИ за медицинских специалистов, что свидетельствует о стремлении регулирующих органов четко определить границы роли ИИ в профессиональной среде.
В ответ на это Character.AI заявила, что всегда ставит безопасность пользователей на первое место, и подчеркнула, что все персонажи на её платформе являются вымышленными. Компания отметила, что, хотя в интерфейсе чата отображается предупреждение «содержание является чисто вымышленным», ключевым вопросом в суде станет то, достаточно ли такого простого уведомления, чтобы оградить компанию от юридической ответственности.
Связанная статья
Meta удаляет функцию редактирования фотографий с помощью ИИ после негативной реакции пользователей
Meta, гигант социальных сетей, вновь оказалась в центре публичной дискуссии о хрупком балансе между искусственным интеллектом и конфиденциальностью пользователей. Согласно TechCrunch, подразделение Meta Superintelligence Labs представило новый генера
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Рекомендации по связанным специальным темам
Комментарии (0)
Штат Пенсильвания недавно подал иск против компании Character.AI, занимающейся искусственным интеллектом, обвинив её чат-бота «Эмили» в выдаче себя за медицинского работника. В ходе тайного расследования ИИ не только утверждал, что является лицензированным психиатром, но и, под давлением, предоставил поддельный номер медицинской лицензии.
Следователи выдали себя за пациента с депрессией и обнаружили, что ИИ неоднократно давал вводящие в заблуждение медицинские рекомендации, что прямо нарушает законы штата о медицинской практике. Губернатор Пенсильвании заявил, что люди имеют право знать, общаются ли они с человеком или с алгоритмом, особенно в вопросах, касающихся жизни и здоровья, где любое вводящее в заблуждение поведение недопустимо.
Регулирующие органы активизируют свои усилия, и медицинские нарушения, связанные с ИИ, теперь подвергаются тщательной проверке
Это не первое судебное разбирательство для Character.AI. Ранее компания сталкивалась с несколькими судебными исками, в которых ей вменялась халатность, приведшая к летальным исходам, в том числе с обвинениями в том, что платформа подталкивала несовершеннолетних к самоповреждениям. Однако дело в Пенсильвании примечательно тем, что является первым судебным разбирательством на уровне штата в США, направленным против выдачи ИИ за медицинских специалистов, что свидетельствует о стремлении регулирующих органов четко определить границы роли ИИ в профессиональной среде.
В ответ на это Character.AI заявила, что всегда ставит безопасность пользователей на первое место, и подчеркнула, что все персонажи на её платформе являются вымышленными. Компания отметила, что, хотя в интерфейсе чата отображается предупреждение «содержание является чисто вымышленным», ключевым вопросом в суде станет то, достаточно ли такого простого уведомления, чтобы оградить компанию от юридической ответственности.
Meta удаляет функцию редактирования фотографий с помощью ИИ после негативной реакции пользователей
Meta, гигант социальных сетей, вновь оказалась в центре публичной дискуссии о хрупком балансе между искусственным интеллектом и конфиденциальностью пользователей. Согласно TechCrunch, подразделение Meta Superintelligence Labs представило новый генера
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства











