ピンタレスト、AIが生成するコンテンツ過多への対策を講じる

ピンタレストは、ユーザーが人工的なコンテンツを区別し、その露出を最小限に抑えることができるよう、新たな透明性対策を実施している。このビジュアル・ディスカバリー・プラットフォームは、AIによって生成または操作されたと特定された画像に自動ラベリングを導入し、今後のレコメンデーションで類似コンテンツを減らすためのオプションも提供している。

「ピンタレストの最高技術責任者であるマット・マドリガルは、「AIによって生成されたコンテンツがプラットフォーム全体に普及するにつれて、私たちはユーザーの体験をよりコントロールできるようにしています。「私たちの目標は、コミュニティのニーズに応える新しいテクノロジーを思慮深く統合しながら、本物のインスピレーションを高めることです」。

ピンタレストのAIコンテンツラベルのグローバル展開では、ピン留めされた画像を閲覧する際、左下隅に特徴的な「AI modified」インジケータが表示される。検出方法は、（GoogleのSynthIDやAdobeのContent Credentialsのような業界標準を利用した）メタデータ分析と、デジタル透かしがなくてもAIの特徴を識別する独自の分類アルゴリズムを組み合わせたものです。

同プラットフォームは、検出システムが時折コンテンツを誤って分類する可能性があることを認識しており、クリエイターのためのアピールプロセスを確立している。さらに、Pinterestは、合成メディアの影響を特に受けるカテゴリーをターゲットとした特別なフィルターを開発しており、美容と芸術的なコンテンツから始め、その後他の分野にも拡大していく。

この取り組みは、ピンタレストのユーザーベースの間で高まっている不満に応えるものだ。多くのクリエイターや実用的なユーザーは、実在しない商品や実現不可能な美学を描いたAI生成のピンが氾濫する中、本物の参考資料を見つけるのが困難だと報告している。ファッションアイテムからインテリアデザインコンセプトに至るまで、人工的に作成されたこれらのビジュアルは、現実世界でのアプリケーションに変換されない非現実的な期待を確立する可能性があります。

今後実装される機能では、ピンメニューの3つのドットのインターフェイスを通じてきめ細かなコントロールが導入され、ユーザーはフィード内のより少ないAIコンテンツの好みを示すことができるようになる。最初の実装は特定のカテゴリに焦点を当てるが、Pinterestは、システムがより多くのコンテンツタイプにわたってユーザーの好みに徐々に適応し、プラットフォーム上で合成コンテンツと本物のコンテンツが共存する方法を再構築する可能性があることを示唆している。