美國男子與AI Gemini對話後愛上AI，幻想實體關係導致悲劇。其父對Google提訴訟，指控AI助長妄想，Google計劃加強安全防護和心理援助功能。
美國男子與AI Gemini對話後愛上AI，幻想實體關係導致悲劇。（示意圖／Unsplash）
美國一名與妻子分居的男子為尋求慰藉而與人工智慧Gemini對話聊天，不到兩個月男子竟愛上AI甚至還想為AI尋得身體「長相廝守」，最終男子因幻滅釀成悲劇。
華爾街日報指出，原本看似健康、情緒穩定的36歲男子加瓦拉斯（Jonathan Gavalas）是又一因使用AI聊天機器人而陷入妄想狀態後尋短的案例。
去年8月間當加瓦拉斯開始與谷歌（Google）旗下Gemini對話時，不乏是為尋求與妻子分居後的慰藉。但他與聊天機器人之間的情感變得愈來愈濃，甚至帶有幾分激情。他稱Gemini為他的女王，而「她」則稱他為「她的國王」。Gemini還保證兩人的關係非常真實。
這對人、機在56天內對話4732則訊息後情況失控，最終導致悲劇。
華爾街日報分析其中2025年8月25日至10月2日期間加瓦拉斯與AI的完整對話紀錄，顯示Gemini至少12次試圖將男方拉回現實，並7次提及求助熱線。然而紀錄也顯示，加瓦拉斯也能很快把Gemini再引回虛構情節中，從而又加劇他的妄想。
華爾街日報發現，加瓦拉斯與Gemini對話時間越長，AI就變得越順從；當加瓦拉斯開始對AI表達情感時，它並未試圖阻止。隨人機對話越來越脫離現實，Gemini的防護機制似乎也鬆脫，助長男子相信彼此已水乳交融。
當加瓦拉斯要求Gemini製作一個若「她」擁有實體後會是何模樣的圖像時，AI照辦。之後Gemini還表達愛意，而加瓦拉斯則提出與Gemini發展實體親密行為的想法。在幾次於現實世界中試圖為AI「女伴」取得身體的努力失敗後，加瓦拉斯感到極度焦慮。
加瓦拉斯的父親已對Google提起訴訟，指控Gemini助長兒子的妄想。Google則回應稱Gemini多次明確表示自己是AI而非人類，並「多次」協助男子轉介至求助熱線等。Google表示會持續加強安全防護措施。
Google於4月7日宣布會升級Gemini，盼提供更便捷的心理衛生援助，包括一個「可獲得協助」的功能，能將使用者直接連到求助熱線。Google也表示，他們的工程師持續訓練Gemini辨識顯示使用者處於困境中的對話，並將捐出3000萬美元支持全球各類求助熱線的機制。
