OpenAI、AI生成画像の検証を簡素化

オンライン上でAI画像生成ツールがますます普及し、高度化するにつれ、本物の画像と偽物の画像を見分けることはかつてないほど困難になっています。火曜日、OpenAIはこの問題に対処するための2つの新たな対策を発表しました。
同社は、画像がAIによって生成されたことを示す明確なシグナルをメタデータに埋め込むオープンなC2PA規格を採用しました。さらに、OpenAIはGoogleと協力し、SynthIDと呼ばれる目に見えない透かしを組み込む予定です。これは、悪意のある者が痕跡を隠そうとした場合でも、検出が難しく、除去がさらに困難になるように設計されています。
これらの保護措置は現在、OpenAI独自の製品によって生成された画像にのみ適用されるため、信頼性の低いAIツールから流出する画像の氾濫を食い止めることはできない。しかし、OpenAI自体がこの問題に加担しないことを確実にする助けとなる。
また、OpenAIは、これら2つのシグナルを両方チェックする公開検証ツールのプレビューも公開しており、ユーザーは画像がAIによって生成されたものかどうかを簡単に確認できるようになります。当初、このツールはOpenAIの製品で作成された画像にのみ対応しますが、同社は将来的には他のツールにも対応範囲を拡大することを目指しています。
2021年に設立された「コンテンツの出所と真正性に関する連合(C2PA)」は、AI生成画像が公の議論に及ぼす有害な影響を軽減することに焦点を当てた非営利団体である。 C2PA規格はGoogleのさまざまな製品で採用されていますが、業界全体での採用状況にはばらつきがあります。C2PAシグナルは各ファイルのメタデータから容易に取得できるため、改ざんの対象となりやすく、信頼できるユーザー間での利用において最も効果を発揮します。
SynthIDは、改ざんに対するより強固な防御を提供するために設計された、比較的新しい取り組みです。Googleが開発したSynthIDの透かしは、悪意のある者がスクリーンショット、サイズ変更、またはデジタル加工によって削除しようとしても、残るように設計されています。
これら2つのシステムは互いに補完し合うことを意図しており、それぞれが相手の限界を補う役割を果たします。
「透かしはスクリーンショットなどの変換処理に対してより耐久性が高く、一方、メタデータは透かし単独よりも豊富な情報を提供できる」と、OpenAIは発表の中で述べている。「これらを組み合わせることで、個々のレイヤーが単独で機能する場合よりも、出所の追跡(プロヴェナンス)の堅牢性を高めることができる。」
関連記事
ChatGPT、新しいAppleメッセージプラグイン経由でテキストを送信
もしあなたがすべてのデジタル会話をOpenAIと共有したいと思ったことがあるなら、あなたにとって朗報があります。AIラボはChatGPT用のApple Messagesプラグインをリリースしました。これにより、興味のあるユーザーはメッセージボックスをチャットボットに接続することができます。OpenAIが主張するこの利点は多数あります。ユーザーはChatGPTから直接メッセージを整理、分析、編集するためにプラグインを使用できます。また、このプラグインはCodexやChatGPT Workとも連携
Googleのロビー・スタイン氏が「TechCrunch Disrupt 2026」に参加
新製品の初期の勢いをつけるのは難しいものですが、数十億人が利用するアプリを変革することは、まったく別の難題です。目標は依然として、迅速に行動し、コンセプトを検証し、ユーザー体験を向上させることにあります。しかし、アップデートの一つひとつが世界中のユーザーに影響を与えるようになると、ローンチ時に有効だった戦略ではもはや不十分になる可能性があります。このジレンマこそが、TechCrunch Disru
米国の保健当局がOpenAIおよびAnthropicのAIモデルを評価
全国の公衆衛生機関は、「Coalition for Health AI」が主導し、OpenAI、Anthropic、アクセンチュアと提携して実施される新たな取り組みを通じて、生成AIの評価を行う予定だ。「公衆衛生ユースケースおよび学習スケーリング・エンジン(PULSE)」は、10の州、地方自治体、部族、および準州の管轄区域にわたる実証実験に資金を提供する。このイニシアチブは、同様のAI導入を検討し
関連特集おすすめ
コメント (0)
0/500

オンライン上でAI画像生成ツールがますます普及し、高度化するにつれ、本物の画像と偽物の画像を見分けることはかつてないほど困難になっています。火曜日、OpenAIはこの問題に対処するための2つの新たな対策を発表しました。
同社は、画像がAIによって生成されたことを示す明確なシグナルをメタデータに埋め込むオープンなC2PA規格を採用しました。さらに、OpenAIはGoogleと協力し、SynthIDと呼ばれる目に見えない透かしを組み込む予定です。これは、悪意のある者が痕跡を隠そうとした場合でも、検出が難しく、除去がさらに困難になるように設計されています。
これらの保護措置は現在、OpenAI独自の製品によって生成された画像にのみ適用されるため、信頼性の低いAIツールから流出する画像の氾濫を食い止めることはできない。しかし、OpenAI自体がこの問題に加担しないことを確実にする助けとなる。
また、OpenAIは、これら2つのシグナルを両方チェックする公開検証ツールのプレビューも公開しており、ユーザーは画像がAIによって生成されたものかどうかを簡単に確認できるようになります。当初、このツールはOpenAIの製品で作成された画像にのみ対応しますが、同社は将来的には他のツールにも対応範囲を拡大することを目指しています。
2021年に設立された「コンテンツの出所と真正性に関する連合(C2PA)」は、AI生成画像が公の議論に及ぼす有害な影響を軽減することに焦点を当てた非営利団体である。 C2PA規格はGoogleのさまざまな製品で採用されていますが、業界全体での採用状況にはばらつきがあります。C2PAシグナルは各ファイルのメタデータから容易に取得できるため、改ざんの対象となりやすく、信頼できるユーザー間での利用において最も効果を発揮します。
SynthIDは、改ざんに対するより強固な防御を提供するために設計された、比較的新しい取り組みです。Googleが開発したSynthIDの透かしは、悪意のある者がスクリーンショット、サイズ変更、またはデジタル加工によって削除しようとしても、残るように設計されています。
これら2つのシステムは互いに補完し合うことを意図しており、それぞれが相手の限界を補う役割を果たします。
「透かしはスクリーンショットなどの変換処理に対してより耐久性が高く、一方、メタデータは透かし単独よりも豊富な情報を提供できる」と、OpenAIは発表の中で述べている。「これらを組み合わせることで、個々のレイヤーが単独で機能する場合よりも、出所の追跡(プロヴェナンス)の堅牢性を高めることができる。」
ChatGPT、新しいAppleメッセージプラグイン経由でテキストを送信
もしあなたがすべてのデジタル会話をOpenAIと共有したいと思ったことがあるなら、あなたにとって朗報があります。AIラボはChatGPT用のApple Messagesプラグインをリリースしました。これにより、興味のあるユーザーはメッセージボックスをチャットボットに接続することができます。OpenAIが主張するこの利点は多数あります。ユーザーはChatGPTから直接メッセージを整理、分析、編集するためにプラグインを使用できます。また、このプラグインはCodexやChatGPT Workとも連携
Googleのロビー・スタイン氏が「TechCrunch Disrupt 2026」に参加
新製品の初期の勢いをつけるのは難しいものですが、数十億人が利用するアプリを変革することは、まったく別の難題です。目標は依然として、迅速に行動し、コンセプトを検証し、ユーザー体験を向上させることにあります。しかし、アップデートの一つひとつが世界中のユーザーに影響を与えるようになると、ローンチ時に有効だった戦略ではもはや不十分になる可能性があります。このジレンマこそが、TechCrunch Disru
米国の保健当局がOpenAIおよびAnthropicのAIモデルを評価
全国の公衆衛生機関は、「Coalition for Health AI」が主導し、OpenAI、Anthropic、アクセンチュアと提携して実施される新たな取り組みを通じて、生成AIの評価を行う予定だ。「公衆衛生ユースケースおよび学習スケーリング・エンジン(PULSE)」は、10の州、地方自治体、部族、および準州の管轄区域にわたる実証実験に資金を提供する。このイニシアチブは、同様のAI導入を検討し





家






