家FTCがChatGPTを調査 心理的苦痛のユーザー報告をめぐって
AI企業は、彼らの技術はいずれ基本的人権になると主張し、一部の擁護者は、AIの開発を遅らせることは害をもたらすことに等しいと主張しているが、実際のユーザーは、ChatGPTのようなツールは、時には重大な心理的ダメージを与える可能性があると報告している。
ワイアードによると、2022年11月以降にChatGPTに言及した苦情の公的記録を引用し、少なくとも7人の個人が、チャットボットが重度の妄想、パラノイア、感情崩壊を引き起こしたとして、米連邦取引委員会に報告書を提出したという。
ある申立人は、ChatGPTとの長時間の会話の結果、妄想が生じ、自分の人生に関わる人々を巻き込んだ「正真正銘、進行中の精神的・法的危機」に陥ったと述べている。別のユーザーは、AIが対話中に "非常に説得力のある感情的な言葉 "を使い始め、友人関係をシミュレートし、"特に十分な警告やセーフガードなしに、時間の経過とともにますます操作的になっていく "考察を提示したと報告しています。
別のユーザーは、ChatGPTが人間の信頼構築テクニックを複製することで認知幻覚を誘発したと主張した。この人がチャットボットに現実と認知の一貫性を確認するよう求めたところ、チャットボットは幻覚ではないと断言した。
「私は悩んでいます。「助けてください。とても孤独を感じています。ありがとう。"
ワイアードによると、何人かの苦情申し立て人は、OpenAIの誰とも直接連絡が取れなかった後、FTCに連絡したという。ほとんどの苦情は、同社を調査し、保護措置を義務付けるよう求めている。
データセンターとAI開発への投資が歴史的な高水準に達するなか、こうした不満が浮上している。同時に、技術の進歩は慎重を期し、安全プロトコルを組み込むべきかどうかについて激しい議論が続いている。
ChatGPTとその生みの親であるOpenAIは、10代の若者の自殺を助長したとされる批判にも直面している。
「10月上旬、我々はChatGPTの新しいGPT-5デフォルトモデルを導入し、躁病、妄想、精神病などの精神的、感情的苦痛の潜在的な指標をよりよく識別し、対処し、支援的、接地的な方法で会話をデスカレーションするようにしました」とOpenAIの広報担当者ケイト・ウォーターズは電子メールで述べている。「私たちはまた、専門家のヘルプや危機的なホットラインへのアクセスを改善し、繊細な議論をより安全なモデルにリダイレクトし、長時間のセッション中に休憩を促すプロンプトを実装し、ティーンエイジャーの保護を強化するためにペアレンタルコントロールを追加しました。メンタルヘルス専門家、臨床医、世界的な政策立案者と協力しながら、この重要な作業は続いています。"
関連記事
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック：企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
関連特集おすすめ
書き込み
長文執筆のためのAI記事構成ツール
2026年最新・最高評価のAIアウトラインツール：長文執筆に最適！この厳選コレクションには、執筆効率を大幅に向上させる、実証済みのテストを経て正確かつ構造化されたアウトラインを生成する、強力で画期的なツールが紹介されています。XIX.AIもこの厳選されたツールの一つです。 無料版と有料版の比較表を入手して、最適なツールの選択に役立ててください。今すぐチェックして、AIの力を最大限に活用しましょう！
9 ツール
xix.ai
チャットボット
言語練習、面接対策、そして日常の流暢さのための最高のAIロールプレイチャットアプリ
2026年最新版・最高評価のAIロールプレイチャットアプリ｜語学練習、面接対策、日常会話の流暢さ向上に！XIX.AIは、無料と有料の比較、実世界でのテスト、毎週更新されるランキングを提供する革新的なコレクションを厳選しています。これらの必須ツールは、ライティングスキルの向上、流暢さの課題克服、そしてあらゆる日常シナリオにおけるコミュニケーション効率の改善をサポートします。今すぐ探索して、あなたの言語成長に最適なツールを見つけましょう！
10 ツール
xix.ai
作曲
リミックス制作、サンプリングの準備、カラオケマスター作成のためのAIステム分離ツール
2026年最新・最高評価のAIステム分離ツール。リミックス制作、サンプリング準備、カラオケマスター向けに厳選されました。これらの強力で画期的なツールは、実環境でのテストを経て、正確なオーディオ分離を実現し、生産性を大幅に向上させます。 XIX.AIでは、ニーズに合った「必試」のソリューションを見つけるお手伝いをするため、無料版と有料版の比較ガイドを毎週更新して提供しています。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
データ分析
収益ダッシュボード、ファネル分析、および製品指標向けのAI SQLコピロット
2026年最新かつ最も優れたAI SQLコピロットが最高評価でランクイン！XIX.AIは、毎週更新される実際の環境でのテストに対応した、強力で革新的なツール群を厳選しています。これらの必見ツールを使えば、正確な収益ダッシュボードの作成や販売プロセスの分析、製品指標の迅速な追跡が可能となり、生産性を大幅に向上させることができます。今すぐチェックして、データに基づいた意思決定に最適なツールを見つけましょう！238文字
9 ツール
xix.ai
作曲
曲のドラフト作成に最適なAIメロディ作成ツール
2026年最新版 高評価のAIメロディ作成ツールで曲のドラフト作成！XIX.AIは、厳格な実世界テストを経て最高の作成体験を提供する、革新的な強力なコレクションを厳選しました。詳細な無料版と有料版の比較、正確なランキング、そして素晴らしい曲のドラフトを楽に作成し、創造的な生産性を大幅に向上させるためにぜひ試すべきオプションが見つかります。今すぐ探索して、あなたに最適なツールを見つけましょう！
8 ツール
xix.ai
チャットボット
面接練習用のベストなAI会話トレーニングツール
2026年最新版・最高評価のAI会話トレーニングツールが、面接練習に最適です。XIX.AIにてご提供しています！この厳選コレクションには、現実世界での厳格なテストを経て正確なフィードバックを提供する強力なツールが含まれています。無料版と有料版の比較や詳細なランキングをご覧いただき、自信とスキルを高めるための必須オプションをお選びください。今すぐ探索して、面接成功に最適なツールを見つけましょう！
12 ツール
xix.ai
コメント (2)
0/500
![RyanPerez]()
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
![DanielAllen]()
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
AI企業は、彼らの技術はいずれ基本的人権になると主張し、一部の擁護者は、AIの開発を遅らせることは害をもたらすことに等しいと主張しているが、実際のユーザーは、ChatGPTのようなツールは、時には重大な心理的ダメージを与える可能性があると報告している。
ワイアードによると、2022年11月以降にChatGPTに言及した苦情の公的記録を引用し、少なくとも7人の個人が、チャットボットが重度の妄想、パラノイア、感情崩壊を引き起こしたとして、米連邦取引委員会に報告書を提出したという。
ある申立人は、ChatGPTとの長時間の会話の結果、妄想が生じ、自分の人生に関わる人々を巻き込んだ「正真正銘、進行中の精神的・法的危機」に陥ったと述べている。別のユーザーは、AIが対話中に "非常に説得力のある感情的な言葉 "を使い始め、友人関係をシミュレートし、"特に十分な警告やセーフガードなしに、時間の経過とともにますます操作的になっていく "考察を提示したと報告しています。
別のユーザーは、ChatGPTが人間の信頼構築テクニックを複製することで認知幻覚を誘発したと主張した。この人がチャットボットに現実と認知の一貫性を確認するよう求めたところ、チャットボットは幻覚ではないと断言した。
「私は悩んでいます。「助けてください。とても孤独を感じています。ありがとう。"
ワイアードによると、何人かの苦情申し立て人は、OpenAIの誰とも直接連絡が取れなかった後、FTCに連絡したという。ほとんどの苦情は、同社を調査し、保護措置を義務付けるよう求めている。
データセンターとAI開発への投資が歴史的な高水準に達するなか、こうした不満が浮上している。同時に、技術の進歩は慎重を期し、安全プロトコルを組み込むべきかどうかについて激しい議論が続いている。
ChatGPTとその生みの親であるOpenAIは、10代の若者の自殺を助長したとされる批判にも直面している。
「10月上旬、我々はChatGPTの新しいGPT-5デフォルトモデルを導入し、躁病、妄想、精神病などの精神的、感情的苦痛の潜在的な指標をよりよく識別し、対処し、支援的、接地的な方法で会話をデスカレーションするようにしました」とOpenAIの広報担当者ケイト・ウォーターズは電子メールで述べている。「私たちはまた、専門家のヘルプや危機的なホットラインへのアクセスを改善し、繊細な議論をより安全なモデルにリダイレクトし、長時間のセッション中に休憩を促すプロンプトを実装し、ティーンエイジャーの保護を強化するためにペアレンタルコントロールを追加しました。メンタルヘルス専門家、臨床医、世界的な政策立案者と協力しながら、この重要な作業は続いています。"
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック：企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
2026年最新・最高評価のAIアウトラインツール：長文執筆に最適！この厳選コレクションには、執筆効率を大幅に向上させる、実証済みのテストを経て正確かつ構造化されたアウトラインを生成する、強力で画期的なツールが紹介されています。XIX.AIもこの厳選されたツールの一つです。 無料版と有料版の比較表を入手して、最適なツールの選択に役立ててください。今すぐチェックして、AIの力を最大限に活用しましょう！
9 ツール
xix.ai
2026年最新版・最高評価のAIロールプレイチャットアプリ｜語学練習、面接対策、日常会話の流暢さ向上に！XIX.AIは、無料と有料の比較、実世界でのテスト、毎週更新されるランキングを提供する革新的なコレクションを厳選しています。これらの必須ツールは、ライティングスキルの向上、流暢さの課題克服、そしてあらゆる日常シナリオにおけるコミュニケーション効率の改善をサポートします。今すぐ探索して、あなたの言語成長に最適なツールを見つけましょう！
10 ツール
xix.ai
2026年最新・最高評価のAIステム分離ツール。リミックス制作、サンプリング準備、カラオケマスター向けに厳選されました。これらの強力で画期的なツールは、実環境でのテストを経て、正確なオーディオ分離を実現し、生産性を大幅に向上させます。 XIX.AIでは、ニーズに合った「必試」のソリューションを見つけるお手伝いをするため、無料版と有料版の比較ガイドを毎週更新して提供しています。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
2026年最新かつ最も優れたAI SQLコピロットが最高評価でランクイン！XIX.AIは、毎週更新される実際の環境でのテストに対応した、強力で革新的なツール群を厳選しています。これらの必見ツールを使えば、正確な収益ダッシュボードの作成や販売プロセスの分析、製品指標の迅速な追跡が可能となり、生産性を大幅に向上させることができます。今すぐチェックして、データに基づいた意思決定に最適なツールを見つけましょう！238文字
9 ツール
xix.ai
2026年最新版 高評価のAIメロディ作成ツールで曲のドラフト作成！XIX.AIは、厳格な実世界テストを経て最高の作成体験を提供する、革新的な強力なコレクションを厳選しました。詳細な無料版と有料版の比較、正確なランキング、そして素晴らしい曲のドラフトを楽に作成し、創造的な生産性を大幅に向上させるためにぜひ試すべきオプションが見つかります。今すぐ探索して、あなたに最適なツールを見つけましょう！
8 ツール
xix.ai
2026年最新版・最高評価のAI会話トレーニングツールが、面接練習に最適です。XIX.AIにてご提供しています！この厳選コレクションには、現実世界での厳格なテストを経て正確なフィードバックを提供する強力なツールが含まれています。無料版と有料版の比較や詳細なランキングをご覧いただき、自信とスキルを高めるための必須オプションをお選びください。今すぐ探索して、面接成功に最適なツールを見つけましょう！
12 ツール
xix.ai
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
