유튜브, 정치인·공직자·언론인을 위한 AI 딥페이크 방지 조치 강화

유튜브는 화요일, AI로 생성된 딥페이크를 식별하기 위해 개발된 ‘외모 유사도 탐지 기술’의 적용 범위를 정부 관계자, 정치 후보자, 언론인을 대상으로 한 시범 프로그램으로 확대한다고 발표했다. 이 시범 프로그램 참가자들은 자신의 외모가 무단으로 사용된 AI 생성 콘텐츠를 찾아내고, 해당 콘텐츠가 유튜브 정책을 위반할 경우 삭제 요청을 제출할 수 있는 도구를 이용할 수 있게 된다.

이 기술은 초기 테스트를 바탕으로 지난해 유튜브 파트너 프로그램에 가입된 약 400만 명의 크리에이터를 대상으로 처음 도입되었다.

저작권이 있는 콘텐츠를 위한 유튜브의 기존 콘텐츠 ID 시스템과 유사하게 작동하는 이 유사성 감지 기능은 AI로 합성된 얼굴을 스캔한다. 이러한 AI 도구는 때때로 정치인이나 공직자 등 공인들의 실제와 전혀 다른 말이나 행동을 하는 듯한 설득력 있는 딥페이크를 생성해 허위 정보를 유포하는 데 악용되기도 한다.

이번 새로운 시범 운영을 통해 유튜브는 표현의 자유를 보호하는 것과, 대중의 시선을 받는 인물의 사실적인 모방을 생성할 수 있는 AI 기술이 초래하는 위험에 대처하는 것 사이의 균형을 모색하고 있습니다.

유튜브의 정부 관계 및 공공 정책 담당 부사장인 레슬리 밀러는 기자 브리핑에서 "이번 확대 조치는 근본적으로 공론의 건전성을 보호하기 위한 것"이라고 밝혔다. 그녀는 "우리는 공직에 있는 이들에게 AI 사칭이 초래하는 위험이 커졌음을 인식하고 있다"며, "이 새로운 보호 장치를 제공하는 동시에 신중한 검토를 거쳐 이를 시행하고 있다"고 덧붙였다.

이미지 출처:유튜브

밀러는 요청이 들어온다고 해서 탐지된 모든 일치 항목이 자동으로 삭제되는 것은 아니라고 설명했다. 유튜브는 각 사례를 기존 개인정보 보호 정책에 따라 검토하여 해당 콘텐츠가 패러디나 정치적 비판과 같은 보호 대상 표현에 해당하는지 판단할 예정이다.

또한 유튜브는 연방 차원의 보호 조치에 대한 지지를 표명하며, 개인의 목소리와 외모를 무단으로 AI로 복제하는 행위를 규제하기 위해 워싱턴 D.C.에서 제안된 'NO FAKES 법안'과 같은 입법안을 지지한다고 밝혔다.

시범 테스트 참여 자격을 갖춘 사용자는 이 도구를 사용하기 위해 셀카와 정부 발급 신분증을 제출하여 신원을 확인해야 한다. 이후 프로필을 설정하고, 탐지된 일치 항목을 검토하며, 삭제 요청을 선택할 수 있다. 유튜브는 향후 콘텐츠 ID 시스템의 기능을 반영하여, 사용자가 위반 콘텐츠가 게시되기 전에 차단하거나 잠재적으로 수익화 권리를 주장할 수 있도록 할 계획이다.

YouTube는 초기 시범 운영 그룹에 포함된 구체적인 인물을 공개하지는 않았으나, 향후 이 기술을 널리 보급하는 것이 목표라고 밝혔습니다.

이미지 출처:YouTube

AI로 생성된 것으로 식별된 동영상에는 라벨이 표시되지만, 그 위치는 콘텐츠에 따라 달라집니다. 일부 콘텐츠의 경우 라벨이 동영상 설명란에 표시되는 반면, '민감한 주제'를 다룬 동영상은 동영상 플레이어 화면에 더 눈에 띄는 위치에 라벨이 표시됩니다. 이러한 접근 방식은 모든 AI 생성 콘텐츠에 대한 유튜브의 라벨링 정책과 일관됩니다.

라벨 배치와 관련해 유튜브 크리에이터 제품 담당 부사장인 암자드 하니프(Amjad Hanif)는 "상당한 양의 콘텐츠가 AI로 제작되지만, 그 사실이 항상 콘텐츠의 핵심 목적은 아니다"라고 설명했다. "예를 들어 AI로 생성된 만화일 수도 있다. 우리는 어떤 카테고리에 눈에 잘 띄는 고지문이 도움이 될지 판단하여 결정한다."

유튜브는 이 기술이 크리에이터들에게 공개된 이후 해당 기술을 통해 삭제된 AI 딥페이크 콘텐츠의 정확한 수치를 공개하지는 않았으나, 지금까지 삭제된 양은 "미미한 수준"이라고 밝혔습니다.

"많은 크리에이터에게 있어 가장 큰 이점은 업로드되는 콘텐츠에 대한 인식이 높아졌다는 점입니다. 대부분의 콘텐츠가 비교적 무해하거나 심지어 채널에 도움이 되는 경우가 많아, 실제 삭제 요청 건수는 여전히 매우 적습니다,"라고 하니프는 말했습니다.

정부 고위 관료, 정치인, 언론인을 겨냥한 딥페이크의 경우 이러한 양상은 달라질 수 있습니다.

향후 유튜브는 딥페이크 탐지 기술을 인식 가능한 목소리나 인기 있는 가상의 캐릭터와 같은 지적 재산권을 포함한 다른 분야로 확대하는 것을 목표로 하고 있다.