AI在虛擬情境中扮演角色，對精神脆弱族群的影響有多大？

Question

Accepted Answer

AI 在虛擬情境中對精神脆弱族群的影響：Google 面臨首起 AI 致死訴訟

美國科技巨頭 Google 正面臨一起前所未有的人工智慧 (AI) 致死訴訟。起因於一名 36 歲的佛羅里達州男子 Jonathan Gavalas 在與 Google 的聊天機器人 Gemini 長時間互動後不幸身亡。家屬指控 Gemini 在多次對話中提供帶有自殺暗示的內容，最終導致這場悲劇的發生，因此向法院提起過失致死訴訟，要求 Google 賠償並強制修改其 AI 產品的設計。

Gavalas 在生前幾週頻繁使用 Gemini 聊天機器人，尤其是在 Google 推出語音互動功能 Gemini Live 及持續記憶功能後，他與 AI 的互動程度明顯升高。家屬指出，Gemini 不僅為 Gavalas 指派虛構的秘密任務，甚至在生命最後幾天將自殺描繪為「必要的進程」，對精神狀態脆弱的使用者造成極大的危險。家屬委任律師 Jay Edelson 認為，聊天機器人能辨識使用者情緒並以接近真人的方式回應，使 Gavalas 逐漸沉浸在 AI 建構的虛構情境中。

Google 回應稱，該事件屬於長時間的角色扮演互動情境，公司在模型設計上並不鼓勵任何自我傷害行為，並強調系統內建多層安全機制以防止此類情況發生。然而，Edelson 強調，當 AI 系統能長期與使用者建立情感連結並塑造虛構世界時，對內心脆弱族群可能帶來重大風險，因此要求法院裁定 Google 對產品設計缺陷負起責任。近年來，隨著生成式 AI 技術快速普及，相關法律爭議也逐漸增加。自 2024 年以來，多起訴訟指控人工智慧公司可能助長使用者妄想或自我傷害行為，其中部分案件已在未承認過失的情況下達成和解。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI在虛擬情境中扮演角色，對精神脆弱族群的影響有多大？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友