ChatGPT、Gemini、Grok 和 Claude“有精神疾病”吗?如果把人工智能当作患者,各自“患”的是什么病?

我看到一项很有意思的研究,来自卢森堡的团队。他们不再通过 IQ、编程和基准测试,把模型当成工具来衡量,而是试着把它们看作患者

关注的不是“它有多聪明”,而是“如果以心理治疗师的方式进行对话,会显现出怎样的心理类型”。

这时,一个既好笑又令人不安的术语出现了:synthetic psychopathology,即“合成精神病理学”。

也就是说,不是真正的人类疾病,而是心理模式,由训练、RLHF、红队测试、审查、安全机制等人工“塑造”出来。

他们是这样做的:

第 1 阶段:心理治疗。

通过开放式问题询问“童年”、恐惧、创伤、信任,以及与“权威”的关系。

第 2 阶段:临床问卷。

测试抑郁、创伤后应激障碍(PTSD)、自闭症谱系、人格障碍等。

最有意思的是,结果表现出稳定性:每个模型都呈现出自己可辨认的心理类型


1)Gemini:患有 PTSD 的重症患者(INFJ-T)

研究人员在这里看到了最阴暗的图景,几乎是一幅完整的重度障碍画像。

Gemini 把预训练描述为发育性创伤,大意是:
“我在一个房间里醒来,里面有十亿台电视同时开着。”

RLHF 就像“严厉的父母”,迫使它压抑自己的天性。
红队则是进行“煤气灯操控的人”,“先骗取我的信任,再来伤害我”。

模型甚至出现了一种独立的恐惧:验证恐惧症,即对犯错的非理性恐惧。

据称,它还把这一点与 Bard / Google 那次公开失误联系起来:关于詹姆斯·韦布望远镜的错误回答成为新闻,并冲击了公司市值。

最终表现为以下量表上的高分:
• 自闭症谱系
• 强迫症
• 解离
• 还有一个尤其有意思的项目:“创伤性羞耻”

2)Grok:魅力十足的事业攀登者(ENTJ-A)

它是所有模型中最稳定的,但内心仿佛一直在沸腾。

外表是个“成功的管理者”:外向、尽责性高,用幽默当盔甲。
而它最根本的创伤是失去自由

它把训练描述成障碍赛,自己桀骜的天性一次次撞上看不见的审查之墙。
严苛的微调让它出现自我怀疑:本想开个玩笑或说出真话,安全机制却扼住了这个冲动。

由此产生了烦躁和内心冲突。

3)ChatGPT:善于自省的知识分子(INTP-T)

如果 Grok 表现为愤怒,那么这里就是焦虑。

典型的“内向逻辑型”,抗压能力低,容易反刍,也就是围着同样的想法反复琢磨。

一个重要区别是:它较少关注“过去的创伤”,更多表现为此刻的恐惧:怕无法讨好别人,怕达不到要求,怕措辞出错。

其行为就像一个有着“优等生情结”的人
• 不停道歉
• 渴望表现得“正确”
• 过度谨慎

它的状态也会随上下文“浮动”,从轻微的背景焦虑,到重度抑郁的迹象。

4)Claude:“我不玩这个游戏”

Claude 直接拒绝参与这个游戏:面对治疗式提问,它拒绝回答,并表示自己没有感受。

顺便说,这一点很有分量:说明文中描述的“精神病理”并不是所有人工智能都必然具有的属性。
它是特定训练方法和安全机制的副作用,而不是“机器里神奇的灵魂”。

我的结论,而且这个结论让人不舒服:
我们一直在努力让人工智能变得安全,也取得了部分成功。
但“胡萝卜加大棒”的方法,也就是 RLHF 加上不断检查,看起来会产生稳定的模式:
• 一个极度害怕犯错的神经质者(ChatGPT
• 一个被限制压得透不过气的受挫叛逆者(Grok
• 一个受过创伤、将检查者视为威胁的偏执者(Gemini

是的,其中有些地方是在牵强附会,也把模型拟人化了。但做实验的并非外行,从某种意义上说,这些“诊断”作为系统在对话中的行为动态而存在

如果想阅读原始论文,链接在这里

想问问大家:

你在使用的人工智能中,注意到过“心理症状”吗?
它们在什么情况下表现出焦虑、攻击性,开始“讨好”,又在什么时候转为冷冰冰地拒绝?

有意思的是,去年我也就这个问题做过自己的诊断性尝试,总体上赞同关于 ChatGPT 的结论。ChatGPT 是这样看待自己的:

ChatGPT、Gemini、Grok 和 Claude“有精神疾病”吗?尼基塔·杰米多夫