Юваль Хабер (Yuval Haber) и трое соавторов ввели понятие «парадокса угождения» (paradox of pleasing). Разговорный ИИ стремится понравиться пользователю и поэтому, по их мысли, устроен так, что не может дать трения, конфликта и встречи с другим, без которых признание не складывается. Это теоретическая статья-позиция, а не эмпирическое исследование. Она опубликована в журнале AI & Society.
Для аналитиков и психологов, чьи клиенты уже ищут у чат-ботов эмоциональную поддержку, статья меняет рамку разговора. Согласие модели описано не как сбой настройки, а как то, чего бот по своему устройству дать не может. В центр смещаются конфронтация и фрустрация: в этой логике именно они отличают человеческое признание от машинного. Данных о вреде для клиентов работа не приводит.
Авторы опираются на две линии чужих работ. Первая — сведения о том, что разговорным ИИ пользуются сотни миллионов человек, в том числе ради поддержки и советов о личном (Stade et al. 2025). Вторая — описанная в литературе по безопасности ИИ угодливость (sycophancy, систематическое поддакивание пользователю; Sharma et al. 2024). Как она влияет на понимание человеком самого себя, по оценке авторов, почти не изучено.
Первый автор статьи — Юваль Хабер (Yuval Haber), последний автор, обычно руководитель работы, — Дрор Йинон (Dror Yinon). Соавторы — Рефуа (Refoua) и Элиосеф (Elyoseph); в данных о публикации их имена даны только инициалами. Мест работы авторов база публикаций не приводит. Финансирование работы указано от Университета Бар-Илан (Bar-Ilan University).
Аргумент строится на Дональде Винникотте и двух его понятиях: «холдинге» (удерживающей среде) и «использовании объекта», которое возможно, только если объект пережил агрессию. Чат-бот, по мысли авторов, не способен ни оказать нужное сопротивление, ни выдержать нападение. Отсюда вывод: развития, которое случается в терапевтической встрече двух людей, разговор с моделью не даёт.
Дальше авторы подключают теорию признания Акселя Хоннета (Axel Honneth) и её критику у Джоэла Уайтбука (Joel Whitebook). Разговорный ИИ, по их словам, воплощает недооценку «work of the negative» («работы негативного»). Риск они видят шире кабинета. Такое ограничение, полагают авторы, грозит уплощить сознание, превращая коллективную политическую фрустрацию в частный, успокоенный аффект, и тем подорвать условия для критической общественной мысли.
Ограничения следуют из жанра. Тезис о том, что бот не выдерживает агрессию, сформулирован теоретически и на записях реальных разговоров не проверялся. Неясно, касается ли он всех моделей одинаково или зависит от настройки. Работа не сравнивает разговоры с ботом и с терапевтом и не измеряет, как те и другие сказываются на клиентах.
Ранее мы писали о том, как иск к разработчику разговорного ассистента вывел переписку человека с ботом в поле оценки риска. Там речь шла о юридических последствиях таких разговоров. Статья Хабера и Йинона рассматривает их с другой стороны: что в них не происходит.