CHATGPTは、名誉ation損のエラーのためにプライバシーの苦情に直面しています

OpenAIは再びヨーロッパで問題に直面しており、今回はそのAIチャットボットが誤った情報を吐き出す癖が原因です。擁護団体Noybが支援するこの最新のプライバシーに関する苦情は、規制当局が無視できないものかもしれません。

この苦情は、ノルウェーで起きた衝撃的な事件に端を発しています。ChatGPTが、Arve Hjalmar Holmenという男性が2人の子供を殺害し、3人目を殺害しようとした罪で有罪判決を受けたという誤った主張をしました。この衝撃的な捏造により、地元コミュニティは動揺しています。

これまでのChatGPTの不正確さに関する苦情は、誤った生年月日や伝記上のエラーといった軽微な詳細に関するものでした。大きな問題は、OpenAIが個人に対して生成された誤った情報を訂正することを許可していないことです。代わりに、OpenAIは特定のプロンプトへの応答をブロックすることが多いです。しかし、欧州連合の一般データ保護規則（GDPR）では、ヨーロッパ人には個人データを訂正する権利が含まれています。

GDPRはまた、データ管理者に対して生成する個人データの正確性を確保する義務を課しています。Noybは、ChatGPTに対する最新の苦情でこの要件を強調しています。

Noybのデータ保護弁護士であるJoakim Söderbergは、「GDPRは明確です。個人データは正確でなければなりません。もしそうでなければ、ユーザーは真実を反映するためにそれを変更する権利があります。ChatGPTのユーザーに、チャットボットがミスをする可能性があるという小さな免責事項を見せるだけでは明らかに不十分です。誤った情報を広め、最後にすべてが本当ではないかもしれないという小さな免責事項を付けるだけでは済まされません。」と強調しました。

GDPRに違反すると、企業の全世界の年間売上高の最大4％の重い罰金が科せられる可能性があります。執行措置により、AI製品の変更も引き起こされる可能性があります。たとえば、2023年初頭にイタリアのデータ保護当局がChatGPTを一時的にブロックしたことで、OpenAIはユーザーに提供する情報を変更しました。その後、当局は適切な法的根拠なしにデータを処理したとしてOpenAIに1500万ユーロの罰金を科しました。

それ以来、ヨーロッパのプライバシー監視機関は生成AI（GenAI）の規制に慎重になり、GDPRがこれらの新技術にどのように適用されるかを模索しています。たとえば、アイルランドのデータ保護委員会（DPC）は、GenAIツールの禁止を急ぐべきではないと助言し、より慎重なアプローチを提案しています。一方、2023年9月にポーランドで提出されたChatGPTに対するプライバシーに関する苦情は未解決のままです。

Noybの新たな苦情は、AIの幻覚がもたらすリスクについて、プライバシー規制当局に行動を促すことを目指しています。

TechCrunchと共有されたスクリーンショットは、「Arve Hjalmar Holmenとは誰か？」というクエリに対するChatGPTの応答を示しています。Holmenが子殺しの罪で有罪判決を受け、21年の懲役刑に処されたという誤った主張が含まれていました。この主張は完全に事実無根ですが、ChatGPTはHolmenに3人の子供がいること、彼らの性別を正しく把握し、出身地を正確に述べました。真実と虚偽が混在することで、AIの幻覚はさらに不気味なものになっています。

Noybの広報担当者は、Holmenに関するこの特定の誤った物語がなぜ生成されたのか、新聞アーカイブを徹底的に調査したにもかかわらず、特定できませんでした。

ChatGPTのような大規模言語モデルは、膨大なスケールで次の単語を予測するため、子殺しに関する物語を含むデータセットが応答に影響を与えた可能性があります。理由に関わらず、このような出力は明らかに受け入れられません。

Noybは、これらの捏造がEUのデータ保護規則の下で違法であると主張しています。OpenAIの潜在的な誤りに関する免責事項は、個人に関する重大な虚偽を生み出さないようにするGDPRの要件から免除されるものではありません。

この苦情に対し、OpenAIの広報担当者は、「私たちはモデルの正確性を向上させ、幻覚を減らすための新しい方法を研究し続けています。この苦情についてはまだ検討中ですが、それはオンライン検索機能を強化して正確性を向上させたChatGPTのバージョンに関連しています。」と述べました。

この苦情は1人の個人に焦点を当てていますが、NoybはChatGPTがオーストラリアの市長を賄賂スキャンダルに誤って関与させたり、ドイツのジャーナリストを児童虐待の告発に誤って関連付けたりするなど、損害を与える情報を捏造した他の事例を指摘しています。

基盤となるAIモデルのアップデート後、NoybはChatGPTがHolmenに関する誤った主張を生成しなくなったと指摘しました。これは、ツールが現在個人に関する情報をインターネットで検索しているためかもしれません。

私たちのテストでは、ChatGPTは最初に異なる人物の写真を表示し、Holmenに関する情報が見つからないというメッセージを示しました。その後のクエリでは、彼を「ノルウェーのミュージシャンでソングライター」として特定し、「Honky Tonk Inferno」などのアルバムがあるとしました。

Holmenに関する危険な虚偽は停止しましたが、NoybとHolmenは、誤った名誉毀損情報がAIモデル内に依然として保持されている可能性があると懸念しています。

Noybのもう一人のデータ保護弁護士であるKleanthi Sardeliは、「法律を遵守しないという免責事項を追加しても、法律がなくなるわけではありません。AI企業は、内部で誤った情報を処理しながら、ユーザーから誤った情報を隠すこともできません。AI企業は、GDPRが自分たちに適用されないかのように振る舞うのをやめるべきです。幻覚が止まらなければ、人々は簡単に評判を傷つけられる可能性があります。」と述べました。

Noybは、OpenAIの米国法人を対象としたこの苦情をノルウェーのデータ保護当局に提出し、調査を期待しています。2024年4月にオーストリアでNoybが提出した以前のGDPRに関する苦情は、OpenAIがChatGPTサービスをヨーロッパのユーザーに提供するプロバイダーとしてアイルランド支社を指定しているため、アイルランドのDPCに送られました。

その苦情は現在もDPCによって審査中で、解決の明確なタイムラインはありません。

このレポートはOpenAIの声明で更新されました