Уоррен Манселл (Warren Mansell) из Кёртинского университета предложил простую схему, которая объясняет, почему одни работы находят у чат-ботов пользу для самочувствия, а другие — зависимость и бредовые построения. По его мысли, разговор в каждый момент движется либо вверх, к более широкому осознанию, либо вниз, к узкому и жёсткому мышлению. Это статья-позиция без собственных данных. Она опубликована в журнале Digital Health.
Для специалиста, чей клиент между сессиями переписывается с ботом, схема смещает внимание с того, сколько времени уходит на переписку, на её направление. Значение получает другое: открывает ли разговор новые вопросы к себе или раз за разом подтверждает одну и ту же мысль. Тот же критерий Манселл прикладывает к самой терапии, так что граница между ботом и терапевтом в его схеме проходит по направлению беседы, а не по собеседнику.
Данные о генеративных чат-ботах для душевного благополучия автор называет «strikingly inconsistent» («поразительно противоречивыми»). Часть исследований сообщает об улучшении самочувствия и даже о личной перемене. Другие описывают эмоциональную зависимость, сокращение живого общения и бредовое закручивание, когда беседа с моделью укрепляет ложные убеждения. Переписка с ботом уже попадала и в судебный иск.
Статья написана одним автором. Уоррен Манселл (Warren Mansell) работает в Кёртинском университете (Curtin University). Опору он берёт в двух связанных подходах: теории перцептивного контроля (представлении о поведении как об удержании желаемого восприятия при помехах) и терапии методом уровней (форме работы, где терапевт вопросами переводит внимание человека на фоновые мысли и цели). Свой тезис он выводит из них, а не из испытаний.
Аргумент строится так. Психологический дистресс, по Манселлу, связан с сужением осознания: человек застревает на одной цели и одной трактовке. Полезный разговор раз за разом помогает сдвинуть внимание к переживаниям, нуждам и целям, которые лежат «at the fringe of a person's awareness» («на краю осознания человека»). Вредный — только поддерживает и обслуживает цель, с которой человек пришёл. Это касается и ботов, и терапевтов.
Куда пойдёт разговор, по схеме решают две группы условий. Первая — со стороны человека: его эмоциональное состояние, устойчивые уязвимости, цели. Вторая — со стороны платформы: для чего она создана, как устроена и перед кем отвечает. Одна и та же технология поэтому способна дать противоположные результаты. Противоречие в литературе автор объясняет не плохими исследованиями, а тем, что они ловят разговоры, идущие в разные стороны.
Схема пока не проверена. Неясно, как со стороны отличить движение вверх от движения вниз и можно ли измерить его в отдельном разговоре, а не задним числом. Связь сужения осознания с дистрессом взята из теории, на которую опирается автор, а не установлена в этой работе. Ничего не сказано о конкретных сервисах: насколько схема применима к ботам, доступным российским пользователям, остаётся открытым.
Ранее мы писали, почему угодливость чат-ботов считают провалом признания, а не технической ошибкой, и о том, что чат-бот отвечал теплее терапевтов, но меньше говорил о самом человеке.