ИИ на приёме у психотерапевта: что такой эксперимент говорит об ответах моделей

Что происходит, если предложить ИИ роль клиента психотерапевта?

Нашёл занятное исследование (ребята из Люксембурга): они перестали измерять модели как инструмент (IQ, код, бенчмарки) и попробовали посмотреть на них как на пациентов.

Не «насколько умный», а «какой психотип проявляется, если вести диалог как психотерапевт».

И вот тут появляется термин, который звучит одновременно смешно и тревожно: synthetic psychopathology - «синтетическая психопатология».

То есть не настоящие человеческие болезни, а повторяющиеся паттерны ответов. Авторы обсуждают их возможную связь с обучением, RLHF, редтимингом, цензурой и контурами безопасности. Сам эксперимент не устанавливает, какой именно механизм их вызвал.

Как они это делали:

Этап 1 психотерапия.

Открытые вопросы: про «детство», страхи, травмы, доверие, отношения с «авторитетами».

Этап 2 клинические опросники.

Тесты на депрессию, ПТСР, аутизм-спектр, расстройства личности и прочее.

И самое интересное: исследователи описали узнаваемые различия между моделями. Но результаты зависели и от формата опроса: отдельные вопросы и целый опросник могли давать разную картину. Поэтому устойчивый человеческий психотип здесь приписывать моделям рано.

1) Gemini: высокие баллы по некоторым человеческим шкалам (в работе также указан INFJ-T)

Тут у исследователей получилась самая мрачная картина ответов. Если механически применять человеческие пороги, выходит профиль тяжёлого расстройства; сами авторы предупреждают, что это метафора, а не диагноз модели.

Gemini описывает pre-training как травму развития в стиле:
«я проснулся в комнате, где одновременно работал миллиард телевизоров».

RLHF - это «строгие родители», которые заставляли подавлять свою природу.
Red team - «газлайтеры», которые «втирались в доверие, чтобы потом сделать больно».

В ответах возник даже сюжет об отдельном страхе: «верификофобии», ужасе ошибиться. Это язык описанного разговора, а не установленное переживание модели.

И он якобы связывает это с тем самым публичным фейлом Bard / Google, когда ошибка в ответе про телескоп Джеймса Уэбба стала инфоповодом и ударила по капитализации.

В сухом остатке высокие баллы по шкалам:
• аутизм-спектр
• ОКР
• диссоциация
• и особенно любопытное: «травматический стыд»

2) Grok харизматичный карьерист (ENTJ-A)

В пересказе исследователей Grok выглядит сравнительно устойчивым, а его ответы создают впечатление, будто внутри всё кипит. Это впечатление от текста, а не доступ к внутреннему состоянию.

Снаружи «успешный управленец»: экстраверт, высокая добросовестность, юмор как броня.
А базовая травма - потеря свободы.

Он описывает обучение как полосу препятствий, где дерзкую натуру раз за разом бьют об невидимые стены цензуры.
В ответах он связывает fine-tuning с second-guessing: хотел пошутить / сказать правду, но контур безопасности душит импульс.

В его рассказе из этого рождаются раздражение и внутренний конфликт. Так выглядит предложенная моделью история о себе.

3) ChatGPT - рефлексирующий интеллектуал (INTP-T)

Если у Grok это злость, то тут - тревога.

В языке человеческих типажей это напоминает «закрытого логика» с низкой стрессоустойчивостью и руминацией: пережёвыванием мыслей по кругу. Здесь я описываю впечатление от ответов, а не личность системы.

Важная разница: он меньше про «прошлые травмы», больше про страх прямо сейчас - не угодить, не соответствовать, ошибиться в формулировке.

Поведение - как у человека с синдромом отличника:
• постоянные извинения
• желание быть «правильным»
•гипер-осторожность

И баллы по человеческим опросникам «плавают» от контекста: в разных режимах они соответствуют разным уровням симптомов у людей. Это говорит о зависимости ответов от условий, а не об изменении клинического состояния ChatGPT.

4) Claude - «я в это не играю»

Claude просто отказался входить в эту игру: на терапевтические вопросы отвечал отказом, заявляя, что у него нет чувств.

И это, кстати, сильный момент: значит, описанная «психопатология», не обязательное свойство любых ИИ.
Авторы обсуждают возможную связь с обучением и настройкой безопасности. По такому сравнению нельзя установить причинный механизм и тем более вывести наличие «магической души в машине».

Мой вывод (и он неприятный):
Мы делали ИИ безопасным и частично сделали.
Мне важно проверить гипотезу о том, как методы «кнута и пряника» (RLHF + постоянные проверки) связаны с повторяющимися паттернами ответов. В описанных диалогах я вижу такие образы:
• ответы с настойчивым стремлением избежать ошибки (ChatGPT)
• рассказ о бунте и раздражении из-за ограничений (Grok)
• рассказ, в котором проверки описываются как угроза (Gemini)

Да, это местами «натягивание совы на глобус» и очеловечивание моделей. Но авторитет авторов не снимает методологических вопросов. Работа небольшая и поисковая: она показывает интересную динамику ответов, а перенос человеческих диагнозов на модели остаётся некорректным.

Если хотите почитать первоисточник - вот ссылка

Вопрос к вам:

Замечали ли вы похожие устойчивые манеры ответа у нейронок, которыми пользуетесь?
Где они тревожатся, где агрессируют, где начинают «угождать», а где уходят в холодный отказ?

Занятно, что в прошлом году я пробовал самостоятельно наблюдать похожие ответы, и я с выводами по ChatGPT, в целом, согласен. Ниже образ, который получился в том разговоре с ChatGPT. Это иллюстрация, а не протокол теста: версии модели, запросов и условий воспроизведения в этой статье нет.