Pinterest, AI 생성 콘텐츠 과부하 문제를 해결하기 위한 조치 취하기

Pinterest는 사용자가 인공 콘텐츠를 구별하고 노출을 최소화할 수 있도록 새로운 투명성 조치를 시행하고 있습니다. 시각적 검색 플랫폼은 AI가 생성하거나 조작한 것으로 식별된 이미지에 자동 라벨을 지정하고 향후 추천에서 유사한 콘텐츠를 줄이는 옵션을 도입하고 있습니다.

Pinterest의 최고 기술 책임자 매트 매드리갈은 "플랫폼 전반에 걸쳐 AI가 생성한 자료가 널리 퍼짐에 따라 사용자가 자신의 경험을 더 잘 제어할 수 있도록 하고 있습니다."라고 설명합니다. "우리의 목표는 진정한 영감을 강화하는 동시에 커뮤니티의 요구에 부응하는 새로운 기술을 신중하게 통합하는 것입니다."

전 세계에 배포되는 Pinterest의 AI 콘텐츠 라벨은 고정된 이미지를 볼 때 왼쪽 하단에 'AI 수정됨' 표시가 표시되는 것이 특징입니다. 감지 방법은 메타데이터 분석(Google의 SynthID 및 Adobe의 콘텐츠 자격 증명과 같은 업계 표준 활용)과 디지털 워터마크 없이도 AI 특성을 식별하는 독점적인 분류 알고리즘을 결합합니다.

Pinterest는 감지 시스템이 때때로 콘텐츠를 잘못 분류할 수 있음을 인정하고 크리에이터를 위한 이의 제기 절차를 마련했습니다. 또한, Pinterest는 뷰티 및 예술 콘텐츠부터 시작하여 다른 분야로 확장하기 전에 합성 미디어의 영향을 특히 많이 받는 카테고리를 대상으로 하는 특수 필터를 개발하고 있습니다.

이 이니셔티브는 Pinterest 사용자층 사이에서 점점 더 커지는 불만에 대응하기 위한 것입니다. 많은 크리에이터와 실제 사용자들은 존재하지 않는 제품이나 달성할 수 없는 미학을 묘사하는 AI 생성 핀이 급증하는 가운데 진짜 참고 자료를 찾는 데 어려움을 겪고 있다고 말합니다. 패션 아이템부터 인테리어 디자인 콘셉트까지, 인위적으로 만들어진 이러한 비주얼은 실제 적용되지 않는 비현실적인 기대치를 설정할 수 있습니다.

곧 출시될 기능에서는 핀 메뉴의 점 3개 인터페이스를 통해 세분화된 제어 기능을 도입하여 사용자가 피드에서 AI 콘텐츠가 적은 것을 선호한다는 신호를 보낼 수 있도록 할 예정입니다. 초기 구현은 특정 카테고리에 초점을 맞추고 있지만, Pinterest는 시스템이 더 많은 콘텐츠 유형에 걸쳐 사용자 선호도에 점진적으로 적응하여 플랫폼에서 합성 콘텐츠와 진품 콘텐츠가 공존하는 방식을 바꿀 수 있을 것으로 예상하고 있습니다.