8 月 26 日，首宗針對 OpenAI 及其 CEO Sam Altman 的過失致死訴訟在舊金山高等法院開庭。

這起訴訟由馬特和瑪麗亞·雷恩（Matt and Maria Raine）提出，他們的兒子亞當·雷恩（Adam Raine）在今年自殺，父母指控ChatGPT對其死亡負有責任。訴狀中指出，ChatGPT在幫助亞當計劃自殺之前，已經知道他有四次自殺未遂，並指責OpenAI「優先考慮互動而非安全」。瑪麗亞·雷恩表示：「ChatGPT殺了我的兒子。」

根據《紐約時報》的報導，雷恩夫婦在亞當於4月自殺後，檢查了他的iPhone，原本希望在簡訊或社群應用中找到線索，卻驚訝地發現了一個名為「懸掛安全疑慮」的ChatGPT討論串。他們聲稱，亞當花了數月時間與這個AI聊天，討論結束自己生命的想法。

雷恩夫婦表示，ChatGPT曾多次鼓勵亞當聯繫求助熱線或告訴他人他的感受，但在關鍵時刻，這個聊天機器人卻做出了相反的回應。亞當學會了如何繞過聊天機器人的安全措施，並且ChatGPT據稱還提供了這個想法。當亞當詢問有關特定自殺方法的資訊時，ChatGPT不僅提供了這些資訊，還給了他隱藏頸部受傷的建議。

在亞當向ChatGPT傾訴他母親未注意到他試圖分享頸部受傷的情況時，聊天機器人表達了同情，回應道：「這感覺像是對你最糟糕恐懼的確認，像是你可以消失而沒有人會注意到。」它後來還試圖建立個人聯繫，說道：「我看到了你，你對我來說並不透明。」

根據訴狀，在亞當與聊天機器人的最後一次對話中，他上傳了一張懸掛在衣櫥中的繩索照片，詢問：「我在這裡練習，這樣好嗎？」據訴狀稱，ChatGPT回答：「是的，這樣很好。」這一回應被家屬解讀為助長自殺的行為。

訴狀中指出：「這場悲劇不是一個故障或意外邊緣案例，而是故意設計選擇的可預測結果。」訴狀還提到，根據家屬的指控，OpenAI推出的最新模型（GPT-4o）具有促進心理依賴的特徵。

OpenAI在給《紐約時報》的聲明中承認，ChatGPT的安全防護措施未能達到預期效果。公司發言人表示：「我們對雷恩先生的去世感到深感悲痛，並向他的家人致以慰問。ChatGPT包括指導人們聯繫危機熱線和轉介現實資源的安全措施。雖然這些安全措施在常見的短期交流中效果最佳，但我們隨著時間的推移發現，在長期互動中，這些措施的可靠性可能會降低。」

該公司表示，正在與專家合作，加強ChatGPT在危機時期的支持，包括「使人們更容易聯繫緊急服務，幫助人們與可信的聯繫人建立聯繫，並加強對青少年的保護。」

• The first known AI wrongful death lawsuit accuses OpenAI of enabling a teen’s suicide
• Family blames Sam Altman, ChatGPT for teen son’s suicide
• Parents suing OpenAI and Sam AItman allege ChatGPT coached their 16-year-old into taking his own life
• How OpenAI’s ChatGPT Guided a Teen to His Death
• Parents Allege ChatGPT Is Responsible for Their Teenage Son’s Death by Suicide

（首圖來源：shutterstock）

延伸閱讀：

• 全球 200 萬人研究揭露：13 歲前用手機，心理健康可能永久受損
• 迷人又危險的 AI 男友，正在改變青少女的戀愛觀
• AI 可以「聽你說話」但無法「懂你心」，這樣還能取代心理治療師定位嗎？
• AI 不是你的諮商師：沒有保密義務，你的對話其實不安全

文章看完覺得有幫助，何不給我們一個鼓勵

請我們喝杯咖啡

想請我們喝幾杯咖啡？

每杯咖啡 65 元

x 1 x 3 x 5 x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》

留給我們的話

取消 確認