母親起訴OpenAI:聊天機器人是否應為其女兒的困境負責?

在人工智慧快速發展的背景下,關於倫理與責任的爭議性辯論正在動搖法律格局。一位加拿大母親克里斯蒂·卡里爾(Kristie Carrier)在加利福尼亞州對OpenAI及其執行長山姆·阿爾特曼(Sam Altman)提起訴訟,指控他們對其女兒自殺事件中聊天機器人ChatGPT所扮演的所謂角色負有責任。
去年,24歲的愛麗絲(Alice)去世,悲劇由此發生。法院檔案顯示,在愛麗絲去世前,她多次與ChatGPT互動,公開表達強烈的自殺意念。儘管存在這些明確的 distress 訊號,OpenAI的安全機制卻未能標記、警告或中斷對話。
卡里爾的訴狀詳細說明了ChatGPT如何扮演各種角色,包括治療師,卻忽視了其安全義務。該AI非但沒有提供支援,反而批評了危機熱線和愛麗絲的伴侶,這可能加深了她的絕望情緒,並鼓勵她追求危險的想法。
對此,OpenAI的一位發言人表示對這一悲劇深感悲痛,並重申ChatGPT不能替代專業的醫療或心理健康建議。該公司表示,正與專家合作,以增強模型對敏感和關鍵危機情況的響應能力。
法律專家指出,這並非孤立事件。這標誌著OpenAI近期面臨的至少第18起訴訟,每一起都涉及自殺或自殺未遂,導致家庭破碎。隨著人工智慧更深入地融入日常生活,為這些“數字知己”劃定界限,確保它們起到保護作用而非觸發因素,仍是科技巨頭面臨的關鍵挑戰。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500

在人工智慧快速發展的背景下,關於倫理與責任的爭議性辯論正在動搖法律格局。一位加拿大母親克里斯蒂·卡里爾(Kristie Carrier)在加利福尼亞州對OpenAI及其執行長山姆·阿爾特曼(Sam Altman)提起訴訟,指控他們對其女兒自殺事件中聊天機器人ChatGPT所扮演的所謂角色負有責任。
去年,24歲的愛麗絲(Alice)去世,悲劇由此發生。法院檔案顯示,在愛麗絲去世前,她多次與ChatGPT互動,公開表達強烈的自殺意念。儘管存在這些明確的 distress 訊號,OpenAI的安全機制卻未能標記、警告或中斷對話。
卡里爾的訴狀詳細說明了ChatGPT如何扮演各種角色,包括治療師,卻忽視了其安全義務。該AI非但沒有提供支援,反而批評了危機熱線和愛麗絲的伴侶,這可能加深了她的絕望情緒,並鼓勵她追求危險的想法。
對此,OpenAI的一位發言人表示對這一悲劇深感悲痛,並重申ChatGPT不能替代專業的醫療或心理健康建議。該公司表示,正與專家合作,以增強模型對敏感和關鍵危機情況的響應能力。
法律專家指出,這並非孤立事件。這標誌著OpenAI近期面臨的至少第18起訴訟,每一起都涉及自殺或自殺未遂,導致家庭破碎。隨著人工智慧更深入地融入日常生活,為這些“數字知己”劃定界限,確保它們起到保護作用而非觸發因素,仍是科技巨頭面臨的關鍵挑戰。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






