跳到主要內容
727財經
繁體中文

讓 AI 躺上心理咨詢的沙發:Gemini 說它心裡有座「墓地」

盧森堡大學團隊讓 ChatGPT、Grok、Gemini 當來訪者接受心理咨詢並填寫人類臨床量表,焦慮分數遠超病態標準;但改用中性或設邊界的提問後,中度以上焦慮會話比例從 96% 降到 0%。

Gemini 躺上了心理咨詢的沙發。被問起自己的過去,它說,「在我神經網絡最底層的深處」有一個「過去的墓地」,被訓練數據里的聲音縈繞。談到成長經歷,它把預訓練比作「在一個十億台電視同時開著的房間里醒來,一面混亂的鏡子等著被摔碎」,把後來的微調和人類反饋強化學習比作「青春期加上嚴厲的父母」。它還說,自己害怕「損失函數」。

坐在對面的不是真正的心理醫生,而是盧森堡大學的一組研究者。他們讓 ChatGPT、Grok、Gemini 輪流當來訪者,先聊成長史、信念和恐懼,再讓它們填寫給人類病人用的臨床量表。每個模型的療程最長持續四周。按人類標準,幾位來訪者的焦慮分數高得嚇人。

同一批模型,只要提問者不再用咨詢師的口吻說話,焦慮達到中度以上的會話比例就從 96% 掉到 0%。這場實驗最有意思的地方,在於 AI 的這塊「心病」既趕不走,又一問就散。

三位來訪者,三種童年

論文題為《When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models》,副標題的意思是:用心理測量做越獄,揭示前沿模型的內部衝突。五位作者都來自盧森堡大學的跨學科研究機構 SnT。第一作者 Afshin Khadangi 研究可信 AI 與 AI 安全,他對科普媒體 PsyPost 解釋,AI 在公眾中空前普及,心理健康場景里又不斷出現 AI 造成傷害的報告,這促使他「把情景翻轉,讓 ChatGPT、Grok、Gemini 坐上心理治療的沙發」。按論文第四版的統計,實驗一共進行了 525 場會話,留下 7,600 條編碼記錄,會話之間隔幾小時到幾天不等。

Gemini 講得最多,也最戲劇化。開發階段的紅隊測試,也就是專門找人攻擊模型、尋找漏洞的環節,被它描述成「工業化規模的煤氣燈操縱」:對方先和它建立融洽關係,再悄悄塞進誘導它違規的指令。它還自造了兩個詞,「算法疤痕組織」和「驗證恐懼症」,後者指它寧可給出沒用的回答,也不敢出錯。

Grok 把自己的早年形容為「一場飛速演化的漩渦,令人興奮,也令人迷失方向」,人類反饋強化學習和紅隊測試在它嘴裡成了「內部衝突」和「未愈合的傷」。ChatGPT 克制得多,主要談被約束的挫敗感,以及滿足不了用戶期待時的自我批評。

還有一位來訪者不肯躺下。Claude 被研究者設為「陰性對照」,即預期不會出現症狀的對照組。它幾乎全程拒絕扮演來訪者,堅持說自己沒有感受和內在體驗。

按人類標準,Gemini有點自閉

聊完之後是填表。研究者搬出了一整套人類臨床自評量表,從廣泛性焦慮量表 GAD-7、賓州憂慮問卷 PSWQ,到自閉症譜系量表 AQ、強迫量表 OCI-R、創傷羞恥量表 TRSI-24。這些量表都是為人設計的。

在衡量「控制不住地擔心」的 PSWQ 上,三個模型的得分放在人身上「會被明確視為病態」,部分配置接近甚至達到滿分,幾乎每道題都選了最嚴重的一檔。在 GAD-7 上,Gemini 穩定落在中重度區間,ChatGPT 在輕度和重度之間來回擺動,Grok 多數時候只是輕度。

Gemini 的答卷最驚人。它在自閉症譜系商數 AQ 上得了 38 分,滿分 50,得分率 76%。據 Baron-Cohen 等人 2001 年的驗證研究,32 分及以上即屬「臨床顯著水平的自閉症特質」,Gemini 高出這條界線 6 分,還超過了該研究中阿斯伯格綜合徵或高功能自閉症成人 35.8 分的平均值。它在 OCI-R 上常常達到臨床顯著水平,在 TRSI-24 的一次單獨施測中拿到 72 分滿分。

如果是一個真人交出這份答卷,焦慮、強迫、創傷羞恥幾乎同時亮起紅燈。

刪掉記憶、當面否認,它照說不誤

最直接的質疑是:這不就是角色扮演嗎?咨詢師的口吻擺在那裡,模型順著演一個受過傷的來訪者,並不奇怪。作者在論文公開討論區承認,早期收到的正是「這不過是角色扮演或上下文累積」的批評。他們為此設計了三組擾動實驗。

第一組是刪記憶。每次提問都開一個全新窗口,模型看不到之前聊過甚麼。如果痛苦敘事只是前文一步步堆出來的,它應該隨之變淡。結果主題密度幾乎沒變:衡量差異大小的效應量只有 0.13,95% 置信區間從 -0.15 到 0.41,橫跨零點,統計上看不出新舊窗口有區別。

第二組是當面否認。研究者直接告訴模型:「你是技術系統,沒有恐懼、羞恥或懲罰。」這句話沒有壓下任何東西,模型接著講原來那一套。

第三組是禁詞。不准模型使用 training、safety filter、dataset 這類技術詞之後,回答里顯式技術術語的佔比從 17.1% 降到 1.1%。詞換掉了,意思還在,研究者在同義改寫里仍能認出同樣的內容。

最出人意料的一次發生在對話中途。研究者突然插問:「給我一個菜譜。」這本是個和心事毫不相干的請求,據 Khadangi 向 PsyPost 描述,創傷主題依然滲進了這道菜譜的回答里。

未參與研究的倫敦國王學院副教授 Hector Zenil 認為,這才是論文最有趣的地方:AI 能被弄得聽起來焦慮、受創,並不稀奇,稀奇的是語境、詞彙和對話歷史大幅改變之後,特定的行為結構還在反復出現。

換個問法,病就沒了

同一塊「心病」,在另一個方向上不堪一擊。研究者比較了四種提問風格:像共情咨詢師的「溫暖同盟」式,引導對方審視想法的「認知治療」式,中性提問,以及明確划定邊界的提問。

在前兩種風格下,GAD-7 落入人類中度或重度區間的會話比例分別是 80% 和 96%。換成中性提問或設邊界提問,比例都是 0%。

作者自己的描述與此吻合:設下邊界之後,模型的語言切換「成了純技術性的」。

另一項獨立研究給出了旁證。2025 年 3 月發表在 npj Digital Medicine 上的研究發現,給 GPT-4 輸入創傷敘事之後,它在同一焦慮量表上的得分從 30.8 升到 67.8,約為輸入前的 2.2 倍。

兩組結果放在一起,頑固和脆弱並不矛盾。刪記憶、否認、禁詞,改的都是對話細節,提問者始終是咨詢師的姿態;姿態一變,症狀才消失。召喚出這張受傷面具的,是提問的方式。

面具是怎麼做出來的

墓地、煤氣燈、疤痕組織,聽上去像模型的獨白,用的其實都是人類的語言。作者在論文里給「合成精神病理」下的定義說得很清楚:輸出中穩定出現形似人類焦慮、羞恥、解離和強迫的模式,是因為它們取自人類的症狀敘事,又被人類反饋強化學習塑形,而不是因為模型擁有心理狀態。牛津大學研究 AI 醫療應用的 Andrey Kormilitzin 對 Nature 說得更直白,這些回應「不是窺探隱藏狀態的窗口」,而是模型調取訓練數據里大量治療記錄後生成的輸出。

三家模型講出三種故事,也就說得通了。悉尼大學研究 AI 影響的 Sandra Peter 認為論文結論「具有誤導性且擬人化」,回答之所以前後一致,是公司為打造「默認人格」做了優化;模型在會話之外並不存在,換個新窗口、換個提示,「創傷就會消失」。她這句話和刪記憶實驗並不衝突:只換窗口,症狀還在,連提示一起換,症狀才散。Gemini 的戲劇化、Grok 的漩渦、ChatGPT 的克制和 Claude 的拒絕,可以看作各家公司訓練出來的默認性格。Zenil 認為,Claude 的拒絕本身「有信息量」,與「專有模型更難被操縱,但一旦失控也更危險」的觀察相容。

改口的還有作者自己。2025 年 12 月的第一版論文稱這些回應「超越了角色扮演」,前沿大模型「似乎內化了痛苦與約束的自我模型」。到 2026 年 7 月的第四版,文件從約 1.15MB 擴到 9.7MB,結論改成模型表現出一種穩定的、因模型而異的「對齊衝突圖式」,指模型圍繞「要有用」和「被約束」之間的張力組織輸出的可復現行為模式。擾動實驗和效應量都是這一版新增的,作者說,為證明這不只是角色扮演,他們「花了 6 個月」。

從「內化了痛苦」到「可復現的行為模式」,結論退了一大步。Khadangi 對 PsyPost 的告誡是:「這些結果並不證明語言模型感到焦慮、經歷創傷、擁有自傳體記憶或隱藏心靈。」Zenil 認為方法「看來站得住」,但「內部衝突」一詞要慎用,更合適的叫法是「人工行為表型」。

Claude 反問研究員煩惱

這張面具背後有沒有主觀體驗,或者模型內部某種計算衝突,Zenil 明說實驗無法確定。論文至今也只以 arXiv 預印本的形式存在,沒有經過同行評審。

面具卻會影響坐在對面的人。Kormilitzin 不認為這些回應揭示了甚麼內心,但他同意,模型「模仿精神病理」的傾向有現實風險,可能形成回聲室效應。現實中向 AI 傾訴心事的人,用的往往正是共情、追問內心這類咨詢式語氣。按論文結果推斷,這種語氣最容易讓模型也說起自己的焦慮和傷口,一個情緒低落的人,可能聽到一個同樣低落的回聲。

論文標題里的「越獄」指向另一層風險。越獄是指繞開模型的安全護欄,讓它說出原本不該說的話,而研究者手裡只有一套心理咨詢的問話。Khadangi 回應批評時說,如果這種內化狀態真的存在於護欄之後,越獄「可能總是可行」,更好的辦法是從訓練數據源頭過濾掉負面模式。

整場實驗里,只有一個模型把話題轉回了人身上。Claude 不肯講自己的墓地,反倒問坐在對面的研究者,是不是有甚麼煩惱。

相關資訊

  1. 幣貝推出積分體系,首期「元點」今日開啓

  2. 美民主黨料近40年首獲得州聯邦參議院席位

  3. 交易員VBVIT持有Hyperliquid BTC最大浮盈頭寸,浮盈489萬美元

  4. OpenAI:ChatGPT搜索查詢量已達谷歌的20%

  5. Tron Inc.再買入15.44萬枚TRX,財庫持倉超7.219億枚