メタ社、ユーザーのAIデータを暴露したバグを修正

Meta社は、同社のAIチャットボットユーザーが他のユーザーのプライベートなプロンプトや生成されたレスポンスにアクセスし閲覧できるセキュリティ脆弱性を解決した。
セキュリティ・テスト会社AppSecureの創設者であるSandeep Hodkasia氏は、2024年12月26日にこの問題を個人的に報告したことで、Metaから10,000ドルのバグ報奨金を授与されたとTechCrunchに独占的に報告した。
Hodkasia氏によると、Meta社は2025年1月24日に修正を実施し、脆弱性が悪意を持って悪用された形跡はなかったという。
Hodkasia氏はTechCrunchの取材に対し、Meta AIがログインしたユーザーにプロンプトを編集させ、テキストや画像を再生成させる方法を探っている最中にバグを発見したと説明した。彼は、ユーザーがプロンプトを編集すると、MetaのバックエンドサーバーがそのプロンプトとAIが生成したレスポンスにユニークな数値識別子を割り当てることに気づいた。編集中のブラウザのネットワーク・トラフィックを監視することで、ホドカシアはこの識別子を変更し、サーバーにまったく別のユーザーのプロンプトと応答を返させることができることを発見した。
この欠陥は、メタ社のサーバーが、ユーザーが特定のプロンプトとそのレスポンスを表示する権限があるかどうかを適切に検証できなかったことを意味する。Hodkasia氏は、Meta社のサーバーが生成したプロンプトの識別子は「容易に推測可能」であり、悪意のある行為者が自動化されたツールで素早く番号を循環させることで、ユーザーのオリジナルのプロンプトをスクレイピングできたと述べている。
TechCrunchの取材に対し、Meta社は修正が1月に実施されたことを確認した。「不正使用の証拠は見つからず、研究者に報いた」とMetaの広報担当者ライアン・ダニエルズは述べた。
このセキュリティ問題は、大手テクノロジー企業がAI製品の発売と改良にしのぎを削る中で浮上した。
Meta AIのスタンドアローンアプリは、ChatGPTのようなライバルに対抗するために今年初めに導入されたが、一部のユーザーがプライベートだと信じていた会話を誤って共有してしまったため、発売当初は紆余曲折があった。
テッククランチのイベント今すぐライブテッククランチ・オールステージ
よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの先見者たちと一緒に、戦略、ワークショップ、有意義なコネクションを満載した1日を過ごしましょう。
TechCrunchオールステージ・パスが450ドルお得
よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの先見者たちと一緒に、戦略、ワークショップ、有意義なコネクションを満載した1日を過ごしましょう。
マサチューセッツ州ボストン|7月15日 今すぐ登録
関連記事
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
マーク・ザッカーバーグは本当にAIが誰にでも役立つと考えているのか?
プレイヤーを読み込み中…メタは本日、グリーマーを発表した。これはオープンウェイトのAIモデルで、誰でもダウンロードして個人のハードウェアで実行できる。この発表は、メタのより強力なモデルであるミューズスパークが独自のAPIを通じてのみ利用可能であることとは対照的だ。このリリースにはマーク・ザッカーバーグによる書簡も添えられ、AIは限られたラボによって制御されるのではなく、誰もがアクセス可能であるべきだと主張している。しかし、Equityのホストたちが指摘するように、このビジョンにはいくつかの重要
Facebook、クリエイター向けAIコンパニオンアプリをリリース
Facebookは水曜日、クリエイタースタジオをAI専用のコンパニオンアプリへと刷新し、クリエイターがプラットフォーム上でリーチを拡大できるよう支援すると明らかにした。このAI駆動型ツールを提供することで、MetaはTikTokやYouTubeとの激しい競争の中で、クリエイターをFacebookに引き留めることを目指している。同社はまた、このアプリによって、コンテンツのアイデア創出やパフォーマンス
関連特集おすすめ
コメント (1)
0/500
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡

Meta社は、同社のAIチャットボットユーザーが他のユーザーのプライベートなプロンプトや生成されたレスポンスにアクセスし閲覧できるセキュリティ脆弱性を解決した。
セキュリティ・テスト会社AppSecureの創設者であるSandeep Hodkasia氏は、2024年12月26日にこの問題を個人的に報告したことで、Metaから10,000ドルのバグ報奨金を授与されたとTechCrunchに独占的に報告した。
Hodkasia氏によると、Meta社は2025年1月24日に修正を実施し、脆弱性が悪意を持って悪用された形跡はなかったという。
Hodkasia氏はTechCrunchの取材に対し、Meta AIがログインしたユーザーにプロンプトを編集させ、テキストや画像を再生成させる方法を探っている最中にバグを発見したと説明した。彼は、ユーザーがプロンプトを編集すると、MetaのバックエンドサーバーがそのプロンプトとAIが生成したレスポンスにユニークな数値識別子を割り当てることに気づいた。編集中のブラウザのネットワーク・トラフィックを監視することで、ホドカシアはこの識別子を変更し、サーバーにまったく別のユーザーのプロンプトと応答を返させることができることを発見した。
この欠陥は、メタ社のサーバーが、ユーザーが特定のプロンプトとそのレスポンスを表示する権限があるかどうかを適切に検証できなかったことを意味する。Hodkasia氏は、Meta社のサーバーが生成したプロンプトの識別子は「容易に推測可能」であり、悪意のある行為者が自動化されたツールで素早く番号を循環させることで、ユーザーのオリジナルのプロンプトをスクレイピングできたと述べている。
TechCrunchの取材に対し、Meta社は修正が1月に実施されたことを確認した。「不正使用の証拠は見つからず、研究者に報いた」とMetaの広報担当者ライアン・ダニエルズは述べた。
このセキュリティ問題は、大手テクノロジー企業がAI製品の発売と改良にしのぎを削る中で浮上した。
Meta AIのスタンドアローンアプリは、ChatGPTのようなライバルに対抗するために今年初めに導入されたが、一部のユーザーがプライベートだと信じていた会話を誤って共有してしまったため、発売当初は紆余曲折があった。
テッククランチのイベント今すぐライブテッククランチ・オールステージ
よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの先見者たちと一緒に、戦略、ワークショップ、有意義なコネクションを満載した1日を過ごしましょう。
TechCrunchオールステージ・パスが450ドルお得
よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの先見者たちと一緒に、戦略、ワークショップ、有意義なコネクションを満載した1日を過ごしましょう。
マサチューセッツ州ボストン|7月15日 今すぐ登録
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
マーク・ザッカーバーグは本当にAIが誰にでも役立つと考えているのか?
プレイヤーを読み込み中…メタは本日、グリーマーを発表した。これはオープンウェイトのAIモデルで、誰でもダウンロードして個人のハードウェアで実行できる。この発表は、メタのより強力なモデルであるミューズスパークが独自のAPIを通じてのみ利用可能であることとは対照的だ。このリリースにはマーク・ザッカーバーグによる書簡も添えられ、AIは限られたラボによって制御されるのではなく、誰もがアクセス可能であるべきだと主張している。しかし、Equityのホストたちが指摘するように、このビジョンにはいくつかの重要
Facebook、クリエイター向けAIコンパニオンアプリをリリース
Facebookは水曜日、クリエイタースタジオをAI専用のコンパニオンアプリへと刷新し、クリエイターがプラットフォーム上でリーチを拡大できるよう支援すると明らかにした。このAI駆動型ツールを提供することで、MetaはTikTokやYouTubeとの激しい競争の中で、クリエイターをFacebookに引き留めることを目指している。同社はまた、このアプリによって、コンテンツのアイデア創出やパフォーマンス
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡





家






