C2PA로 AI 컨텐츠 투명성 향상

AI를 더 많은 제품과 서비스에 통합하여 창의성과 생산성을 높이는 과정에서, 우리는 사용자가 콘텐츠가 어떻게 생성되고 시간에 따라 수정되는지 이해할 수 있도록 돕는 데 전념하고 있습니다. 우리는 사람들이 이 정보에 접근할 수 있어야 한다고 믿으며, 그래서 SynthID와 같은 도구와 혁신적인 솔루션에 투자하고 있습니다.

또한, 콘텐츠가 다양한 플랫폼을 오가며 이동할 때 전체적인 투명성을 높이기 위해 업계의 다른 이들과 협력하는 것의 중요성을 인식하고 있습니다. 그래서 올해 초 C2PA(Content Provenance and Authenticity Coalition)에 운영위원회 회원으로 가입했습니다.

오늘, 우리는 최신 C2PA 출처 기술을 개발하고 이를 우리 제품에 통합하기 위한 노력에 대한 최신 소식을 공유하게 되어 기쁩니다.

기존 기술을 발전시켜 더 안전한 자격 증명을 만들기

출처 기술은 사진이 카메라로 촬영되었는지, 소프트웨어로 편집되었는지, 또는 AI에 의해 생성되었는지를 명확히 하는 데 도움을 줍니다. 이 정보는 사용자가 사진, 비디오, 오디오 등 참여하는 콘텐츠에 대해 더 정보에 입각한 결정을 내릴 수 있도록 하며, 미디어 리터러시와 신뢰를 촉진합니다.

C2PA의 운영위원회 회원으로서, 우리는 콘텐츠에 출처 정보를 첨부하는 기술을 개선하기 위해 다른 회원들과 협력했습니다. 올해 상반기 동안 Google은 Content Credentials 기술 표준의 버전 2.1 개발에 기여했습니다. 이 새로운 버전은 콘텐츠의 출처 이력을 검증하기 위한 더 엄격한 기술 요구 사항 덕분에 더 광범위한 변조 공격에 대해 더 강력한 보호를 제공합니다. 이러한 보호를 강화함으로써 첨부된 데이터가 정확하고 변조되지 않도록 보장합니다.

C2PA 표준을 우리 제품에 통합하기

앞으로 몇 달 안에 우리는 최신 버전의 Content Credentials를 여러 주요 제품에 통합할 것입니다:

• 검색: 이미지가 C2PA 메타데이터를 포함하는 경우, 사용자는 "About this image" 기능을 사용하여 AI 도구로 생성되었거나 편집되었는지 확인할 수 있습니다. "About this image"는 온라인 이미지에 대한 맥락을 제공하며 Google Images, Lens, Circle to Search에서 사용할 수 있습니다.
• 광고: 우리는 광고 시스템에 C2PA 메타데이터를 통합하기 시작했습니다. 우리의 목표는 시간이 지나면서 이 통합을 확대하고 C2PA 신호를 사용하여 주요 정책을 시행하는 데 도움을 주는 것입니다.

또한, YouTube에서 콘텐츠가 카메라로 촬영된 경우 C2PA 정보를 시청자에게 표시하는 방법을 탐구하고 있으며, 이에 대한 추가 업데이트는 연말에 공유할 예정입니다.

우리는 우리의 구현이 곧 출시될 C2PA Trust 리스트에 대해 콘텐츠를 검증하도록 할 것입니다. 이 리스트는 플랫폼이 콘텐츠의 출처를 확인하는 데 도움을 줍니다. 예를 들어, 데이터가 이미지가 특정 카메라 모델로 촬영되었다고 나타내는 경우, 신뢰 리스트는 이 정보의 정확성을 검증하는 데 도움을 줍니다.

이것들은 우리가 현재 콘텐츠 출처 기술을 구현하는 몇 가지 예일 뿐이며, 시간이 지나면서 더 많은 제품에 걸쳐 그 사용을 계속 확대할 것입니다.

업계의 다른 이들과 지속적으로 협력하기

콘텐츠 출처를 설정하고 표시하는 것은 제품 또는 서비스에 따라 다양한 고려 사항이 있는 복잡한 과제입니다. 모든 온라인 콘텐츠에 대해 만능 솔루션이 없지만, 업계의 다른 이들과 협력하는 것은 지속 가능하고 상호 운용 가능한 솔루션을 만드는 데 중요합니다. 그래서 우리는 더 많은 서비스와 하드웨어 제공업체가 C2PA의 Content Credentials를 채택하도록 장려하고 있습니다.

C2PA와의 협력은 투명성과 책임 있는 AI 개발에 대한 우리의 더 넓은 접근 방식과 일치합니다. 예를 들어, 우리는 Google DeepMind의 내장 워터마킹인 SynthID를 텍스트, 오디오, 비주얼, 비디오를 포함한 다양한 미디어 유형의 추가 생성 AI 도구에 확장하고 있습니다. 또한 AI 안전과 연구에 초점을 맞춘 여러 다른 연합 및 그룹에 가입했으며, Secure AI Framework(SAIF)와 연합을 도입했으며, 작년에 백악관에서 한 자발적 약속에 대해 계속해서 진전을 이루고 있습니다.