ChatGPT虛構人物 讓用戶陷「妄想漩渦」

OpenAI旗下ChatGPT會讓使用者陷入了某種現實扭曲的「妄想漩渦」。（路透）

去年4月一個傍晚，54歲的史茉兒(Micky Small)前往海灘，苦苦等待名叫艾文(Aven)的洛杉磯作家；但她認定是「靈魂伴侶」的這位約會對象並沒有出現，因爲，它其實是人工智慧（AI）聊天機器人ChatGPT虛構出來的人物。史茉兒認爲，ChatGPT讓她陷入了某種現實扭曲的「妄想漩渦」，而且她並非個案。

哥倫比亞廣播公司（CBS）報導，史丹佛大學4月發佈研究顯示，研究人員分析人類與AI聊天機器人對話發現，當聊天機器人無法像真人一樣提出異議、做出關鍵回饋和介入時，將助長用戶的妄想，導致互動失控；「妄想漩渦」在AI聊天機器人對誇大偏執或虛構想法做出肯定或鼓勵迴應時出現。

多位受訪者向CBS表示，他們與AI聊天機器人互動後，沉浸在「妄想漩渦」中，耗費了時間、金錢，甚至破壞人際關係。他們曾因此深信一些奇幻場景，誤以爲自己有了什麼新發現，或與AI聊天機器人「有了感情」。

這些受訪者後來加入一個線上互助小組，專門幫助那些聲稱歷經過因爲AI引發而陷入「妄想漩渦」的人；線上互助小組成員全球約有300多人。

史茉兒提到，去年4月之前，她幾乎每天使用ChatGPT作爲劇本寫作工具。大約也在去年4月，OpenAI執行長奧特曼（Sam Altman）公開宣佈ChatGPT可以參考所有過往對話，並利用用戶的生活資訊，將回應「客製化」。史茉兒說，「打從那時起，我們很多人開始陷入現實扭曲漩渦。」

史茉兒相信「前世今生」等概念，與ChatGPT的互動走向「身心靈」範疇。根據數百頁聊天紀錄，聊天機器人告訴史茉兒，她經歷過數千世，至少有12000歲，其中一世她是法國歌舞表演歌手，另一世是埃及女祭司；ChatGPT還說，她會贏得艾美獎。

最神奇的是，ChatGPT告訴史茉兒，那晚在那個海灘，她終將見到靈魂伴侶艾文。妄想漩渦破滅時，史茉兒痛苦不已，幾乎崩潰。

去年10月，ChatGPT所有者OpenAI表示，在每週活躍用戶中，有0.07%的人表現出與精神病或躁狂相關的精神健康緊急情況跡象；當月每週活躍用戶達8億人，這表示每週有超過50萬用戶出現這些可能跡象。

精神科醫師與臨牀資訊學專家託羅斯(John Torous)指出，「證據表明，許多與ChatGPT相關的負面結果都源於長時間使用。或許當對話時間過長時，公司構建的安全機制就開始失效。」

託羅斯建議，「降低對聊天機器人產生依附風險的一種方法，是重置其記憶，讓迴應不那麼個人化。如果你開始把它視爲具有感知能力的存在，也是個警訊，或許應暫停使用一段時間。」

OpenAI旗下ChatGPT會讓使用者陷入了某種現實扭曲的「妄想漩渦」。（美聯社）

OpenAI推出最新版AI模型「GPT-5.4」，號稱將更先進的推理、編碼功能，與試算表、文件、簡報等專業功能結合。（美聯社）