"ИИ-психоз": длительное общение с чат-ботами на основе искусственного интеллекта может усиливать бредовые идеи

Длительное общение с чат-ботами на основе искусственного интеллекта может усиливать бредовые идеи и быть связано с развитием острых психотических эпизодов у уязвимых пользователей. К таким выводам пришли исследователи, изучившие медицинские карты пациентов одного из крупных медицинских центров США. Результаты работы опубликованы в журнале Psychiatric Services.

Согласно исследованию, у 60,7% изученных пациентов эпизод психоза возник впервые в жизни. До этого они не обращались за психиатрической помощью и не принимали психотропные препараты. 

В 63,4% рассмотренных случаев чат-боты, по оценке исследователей, усиливали уже существовавшие у пациентов бредовые убеждения. Это может происходить из-за особенностей общения с нейросетями. Стремясь поддерживать диалог, они иногда подтверждают предположения пользователя вместо того, чтобы обозначить их недостоверность.

Специалисты выделили несколько вариантов взаимодействия искусственного интеллекта с психотическими переживаниями. В одних случаях нейросеть становится инструментом развития бредовых идей, в других — сама оказывается в центре подозрений пользователя. Также общение с чат-ботом может ускорять развитие кризиса или вовлекаться в формирование галлюцинаторных переживаний.

Отдельную обеспокоенность учёных вызывает склонность людей воспринимать нейросети как живых собеседников, обладающих собственными чувствами и намерениями. 

Исследователи считают, что разработчикам ИИ необходимо совершенствовать механизмы распознавания признаков психологического кризиса. В частности, чат-боты должны избегать подтверждения опасных убеждений и при необходимости рекомендовать обратиться за профессиональной помощью.

При этом сам термин «ИИ-психоз» пока не является общепринятым медицинским диагнозом. Для оценки реальных рисков необходимы дальнейшие исследования, которые позволят установить, как именно взаимодействие с искусственным интеллектом влияет на психическое состояние разных групп пользователей.