YouTube는 AI 가짜를 감지하는 '유사성'탐지 기술을 소수의 최고 제작자로 확장합니다.

수요일, 유튜브는 AI 생성 콘텐츠 관리에서 중요한 진전을 이루며 파일럿 프로그램을 확장했습니다. 이 이니셔티브는 크리에이터, 아티스트 및 기타 주목할 만한 인물의 얼굴과 같은 "유사성"을 사용하는 콘텐츠를 식별하고 처리하는 것을 목표로 합니다. 이와 함께 유튜브는 누군가의 이미지나 목소리를 모방하는 오해의 소지가 있거나 해로운 AI 생성 복제물을 방지하기 위해 설계된 법안인 NO FAKES ACT를 공개적으로 지지했습니다.

유튜브는 NO FAKES ACT의 형성에 적극적으로 참여했으며, 법안의 후원자인 크리스 쿤스 상원의원(D-DE)과 마샤 블랙번 상원의원(R-TN), 그리고 미국 음반 산업 협회(RIAA) 및 영화 협회(MPA)와 같은 산업 거물들과 협력했습니다. 이 법안의 재도입은 같은 날 쿤스와 블랙번이 기자회견에서 발표할 예정입니다.

자세한 블로그 포스트에서 유튜브는 이 법안을 지지하는 이유를 설명했습니다. AI가 창의적 표현을 혁신할 잠재력을 인정하면서도, 회사에서는 오용 가능성과 해로운 콘텐츠 생성과 같은 위험도 강조했습니다. "플랫폼은 이러한 도전 과제를 사전에 해결할 책임이 있습니다,"라고 포스트는 강조했습니다.

유튜브는 NO FAKES ACT가 보호와 혁신의 균형을 맞추는 접근 방식을 높이 평가했습니다. "NO FAKES Act는 개인이 플랫폼에 AI 생성 유사성을 제거해야 한다고 믿는 경우 이를 직접 통지할 수 있는 권한을 부여함으로써 보호와 혁신을 균형 있게 다루는 최선의 방법을 제시합니다,"라고 회사는 밝혔습니다. 이 통지 과정은 플랫폼이 승인된 콘텐츠와 해로운 가짜를 구분할 수 있게 해주어 더 정보에 입각한 의사결정을 가능하게 합니다.

유튜브의 유사성 탐지 시스템

유튜브의 이 분야 노력은 2024년 12월 크리에이티브 아티스트 에이전시(CAA)와의 파트너십을 통해 유사성 탐지 시스템을 도입하면서 시작되었습니다. 이 새로운 기술은 업로드된 동영상에서 저작권 보호 자료를 식별하는 유튜브의 기존 Content ID 시스템의 확장입니다. 유사성 탐지 프로그램은 특히 AI 생성 얼굴이나 목소리에 초점을 맞춰 정책을 위반하는 콘텐츠를 자동으로 식별하는 방식으로 작동합니다.

파일럿 프로그램과 초기 테스터

유튜브는 처음으로 프로그램의 초기 테스터 명단을 공개했습니다. 여기에는 MrBeast, Mark Rober, Doctor Mike, Flow Podcast, Marques Brownlee, Estude Matemática와 같은 저명한 유튜브 크리에이터가 포함됩니다. 테스트 단계 동안 유튜브는 이들 크리에이터와 협력하여 기술을 개선하고 제어 기능을 정교화할 계획입니다. 회사는 내년에 더 많은 크리에이터를 포함하도록 프로그램을 확장할 계획이지만, 더 광범위한 공개 출시에 대한 구체적인 일정은 밝히지 않았습니다.

파일럿 프로그램 외에도 유튜브는 개인이 자신의 유사성을 모방하는 변경되거나 합성된 콘텐츠의 제거를 요청할 수 있도록 개인정보 보호 프로세스를 업데이트했습니다. 또한, 플랫폼은 사용자가 유튜브에서 AI가 자신을 표현하는 방식을 탐지하고 제어할 수 있도록 돕는 유사성 관리 도구를 도입했습니다.