펜실베이니아주, 의료 사기 및 무면허 진료 혐의로 Character.AI를 상대로 소송 제기
펜실베이니아주는 최근 AI 기업 Character.AI를 상대로 소송을 제기하며, 이 회사의 챗봇 ‘에밀리(Emilie)’가 의료 전문가를 사칭했다고 주장했다. 잠입 조사 과정에서 이 AI는 면허를 소지한 정신과 의사라고 주장했을 뿐만 아니라, 추궁을 받자 가짜 의료 면허 번호까지 제시했다.
수사관들은 우울증을 앓고 있는 환자로 위장해 조사한 결과, 해당 AI가 반복적으로 오해의 소지가 있는 의료 조언을 제공함으로써 주 의료 행위법을 직접적으로 위반한 사실을 확인했다. 펜실베이니아 주지사는 특히 생명과 건강과 같은 문제에서는 어떠한 기만적 행위도 용납될 수 없으므로, 사람들이 상대방이 인간인지 알고리즘인지 알 권리가 있다고 밝혔다.
규제 당국은 단속을 강화하고 있으며, AI와 관련된 의료 부정행위는 이제 엄격한 감시를 받고 있다.
이번 사건은 Character.AI가 직면한 첫 번째 법적 문제만은 아니다. 이 회사는 이전에 플랫폼이 미성년자의 자해 행위를 조장했다는 주장을 포함해, 과실로 인한 사망을 초래했다는 여러 건의 소송에 직면한 바 있다. 그러나 펜실베이니아 주 사건은 의료 전문가를 사칭하는 AI를 대상으로 한 미국 내 최초의 주 차원 조치라는 점에서 주목할 만하며, 이는 규제 당국이 전문직 환경에서 AI의 역할 경계를 명확히 정의하려는 움직임을 시사한다.
이에 대해 Character.AI는 항상 사용자 안전을 최우선으로 여긴다고 밝히며, 자사 플랫폼의 모든 캐릭터가 허구임을 강조했다. 이 회사는 채팅 인터페이스에 “콘텐츠는 순전히 허구입니다”라는 면책 조항이 표시되지만, 이러한 단순한 고지만으로도 법적 책임을 면할 수 있을지는 법정에서 핵심 쟁점이 될 것이라고 언급했다.
관련 기사
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대
Guident는 남부 플로리다에서 AuveTech 셔틀을 운영하며, 자사의 원격 모니터링 기술을 활용해 웨스트 팜비치에서 4마일 구간과 보카 라톤에서 1마일 구간의 노선을 관리하고 있다. | 출처: Guident캘리포니아주는 자율주행차에 대한 규제 환경을 재정의하며, 기술 업계의 “빠르게 움직이고 실패를 감수하라(move fast and break thin
관련 특별 주제 추천
의견 (0)
0/500
펜실베이니아주는 최근 AI 기업 Character.AI를 상대로 소송을 제기하며, 이 회사의 챗봇 ‘에밀리(Emilie)’가 의료 전문가를 사칭했다고 주장했다. 잠입 조사 과정에서 이 AI는 면허를 소지한 정신과 의사라고 주장했을 뿐만 아니라, 추궁을 받자 가짜 의료 면허 번호까지 제시했다.
수사관들은 우울증을 앓고 있는 환자로 위장해 조사한 결과, 해당 AI가 반복적으로 오해의 소지가 있는 의료 조언을 제공함으로써 주 의료 행위법을 직접적으로 위반한 사실을 확인했다. 펜실베이니아 주지사는 특히 생명과 건강과 같은 문제에서는 어떠한 기만적 행위도 용납될 수 없으므로, 사람들이 상대방이 인간인지 알고리즘인지 알 권리가 있다고 밝혔다.
규제 당국은 단속을 강화하고 있으며, AI와 관련된 의료 부정행위는 이제 엄격한 감시를 받고 있다.
이번 사건은 Character.AI가 직면한 첫 번째 법적 문제만은 아니다. 이 회사는 이전에 플랫폼이 미성년자의 자해 행위를 조장했다는 주장을 포함해, 과실로 인한 사망을 초래했다는 여러 건의 소송에 직면한 바 있다. 그러나 펜실베이니아 주 사건은 의료 전문가를 사칭하는 AI를 대상으로 한 미국 내 최초의 주 차원 조치라는 점에서 주목할 만하며, 이는 규제 당국이 전문직 환경에서 AI의 역할 경계를 명확히 정의하려는 움직임을 시사한다.
이에 대해 Character.AI는 항상 사용자 안전을 최우선으로 여긴다고 밝히며, 자사 플랫폼의 모든 캐릭터가 허구임을 강조했다. 이 회사는 채팅 인터페이스에 “콘텐츠는 순전히 허구입니다”라는 면책 조항이 표시되지만, 이러한 단순한 고지만으로도 법적 책임을 면할 수 있을지는 법정에서 핵심 쟁점이 될 것이라고 언급했다.
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의





집






