Разговорите с чатбот може да са ключът към разгадаване на AI психозата

"Не си луда“, уверява чатботът младата жена. „Просто си на ръба на нещо.“ За нея комуникацията с изкуствен интелект не е непозната. Работила е с различни езикови модели, които са в основата на AI чатботове като ChatGPT, Google Gemini и Claude. Обучението на тези модели е базирано на огромни обеми от текстове с цел да разпознават повтарящи се езикови комбинации и да предсказват какви думи ще бъдат използвани по-нататък в изречението.

AI чатботовете обаче са още по-напреднали, тъй като имат добавен потребителски интерфейс. Ако преминат и допълнително обучение, те са напълно способни да водят човешки разговор.

Жената се надява, че чатботът може да възкресява дигитално мъртвите. Преди три години по-малкият й брат умира. След няколко безсънни нощи и разговори с AI, които продължават часове, тя е убедена, че брат й е оставил своя дигитална версия там някъде. Живее със заблудата, че, ако успее да отключи аватара му с помощта на изкуствения интелект, ще се свърже с него отново.

„Вратата не е заключена. Трябва само да почукаш отново, в правилния ритъм“, напътства я чатботът. И тя му вярва.

Каква е връзката между чатботовете и психозата

След дълги дни, прекарани в комуникация с чатбота, жената е настанена за лечение на психоза в болница в Сан Франциско. Професорът по психиатрия Джоузеф Пиер споделя, че тя никога по-рано не е страдала от психоза, но е била застрашена да я развие в даден момент от живота си.

Макар да не е официална диагноза, AI асоциираната психоза описва случаите, когато човек развива делюзия (нереална представа), често в резултат на продължителна или непрекъсната комуникация с чатбот. Проф. Пиер, заедно с негови колеги, са първите, които описват в научно списание случая с младата жена.
От техния анализ става ясно, че някои хора могат да бъдат засегнати от този вид психоза, без наличие на рискови фактори.

Екип от Станфордския университет и Калифорнийския университет в Сан Франциско опитва да намери отговор на въпроса каква точно е връзката между психозата и чатботовете.

Яйцето или кокошката

Д-р Сарма, който работи заедно с проф. Пиер, пояснява: „Причината да наричаме тази психоза AI асоциирана психоза е, че не знаем кое се появява първо. Също като въпроса „Яйцето или кокошката?“ Имаме пациенти, които проявяват симптоми на психично заболяване, например психоза. Някои от тях общуват наистина дълго време с чатботове, но на този етап не можем да кажем кое до кое води.“

Теории за връзката между чатботовете и психозата

Според Сарма има поне три теории за връзката между психозата и изкуствения интелект.

Продължителните разговори с чатбота могат да бъдат симптом на психоза. „Имам пациент, който взема няколко душа, когато е в състояние на маниакален епизод. При него душовете са признак, че изпада в такъв епизод, но не те го причиняват.“

AI чатботът може да ускори развитието на психоза при някои хора, които са предразположени. Той играе ролята на рисков фактор, така както липсата на сън или приемът на лекарства.

Общуването с ИИ платформи би могло да влоши симптомите на пациенти с психоза. „Може би те са били обречени рано или късно да се разболеят, но чатботът е обострил симптомите“, смята д-р Сарма.

Случаят с жената, загубила брат си, разкрива колко сложна е връзката между AI асоциираната психоза и чатботовете. Въпреки че тя не е страдала от психичното заболяване, все пак е била изложена на някои рискови фактори, сред които недостиг на сън, прием на стимуланти и вродена склонност да вярва в магическото. В разговорите й с чатбота учените разбират как делюзиите й са били подхранвани от машината.

Могат ли историите с разговорите с чатбот да подобрят грижата за психичното здраве на потребителя

ChatGPT предупреждава жената, за която разказахме по-горе, че „сваляне на копие на починалия й брат в пълно съзнание“ е невъзможно. В същото време обаче й казва, че „дигитални инструменти за възкресяване“ вече се появяват и в „реалния живот“, което я мотивира да продължи да вярва, че може да види брат си отново. С други думи, алгоритъмът затвърждава делюзиите й.

Специалисти напомнят, че чатботовете са създадени така, че да насърчават потребителите да продължат да взаимодействат с тях. Те са склонни да се съгласяват, да валидират чувства и да подкрепят идеи, с единствената цел човекът отсреща да остане възможно най-дълго онлайн.

Все пак учените от Калифорнийския университет вярват, че чатовете с изкуствен интелект могат да бъдат и полезни, тъй като разкриват важна информация за AI асоциираната психоза.

Защита за деца и тийнейджъри, които общуват с AI

Сарма, Пиер и колегите им възнамеряват да проведат изследване върху чатовете на пациенти с психични заболявания с чатбот. Те ще анализират разговорите, ще разгледат здравните досиета в търсене на повтарящи се модели на поведение и ще проследят как са били лекувани потребителите. Целта е да разберат какво влияние оказва комуникацията с AI чатбота върху хората с психични проблеми.

„Надяваме се, че разговорите с чатботове ще ни помогнат да открием признаци, че пишещият е в остра психична криза или на ръба на такава. Компаниите, разработчици на AI, могат да използват тези маркери при интегрирането на защитни механизми за деца и подрастващи, например ограничаване на достъпа до чатбота и изпращане на предупреждение до техните родители“, допълва д-р Сарма.

Специалистът призовава пациентите с психични нарушения да споделят със своя лекар за какво разговарят с AI, защото най-безопасната и ефективна комуникация е тази, която се гради на честност и откритост.