Британски експерти предупреждават: Терапевтичните чатботове не са безопасни

„Лично аз вярвам, че вероятно всеки трябва да има терапевт“, каза той. „Някой, с когото може просто да разговаря през деня – или не непременно през целия ден, но за каквито и да е притеснения. А за хората, които нямат терапевт, мисля, че всеки ще има AI“, пише The Guardian.

Експерти по психично здраве обаче изразяват тревога от нарастващата роля на изкуствения интелект като „цифров терапевт“. Проф. Дейм Тил Уайкс, ръководител на катедрата по психично здраве и психологически науки в King’s College London, дава за пример чатбот за хранителни разстройства, който през 2023 г. беше спрян, след като даде опасни съвети.

„Мисля, че AI все още не е на ниво да предоставя нюансирани отговори и всъщност може да предложи действия, които са напълно неподходящи“, казва тя.

Уайкс вижда чатботовете и като потенциални нарушители на вече съществуващи връзки.

„Една от причините да имате приятели е, че споделяте лични неща и ги обсъждате“, казва тя. „Това е част от връзката, от усещането за близост. И ако използвате AI за такива цели, няма ли това да пречи на тези отношения?“.

За много потребители на AI Зукърбърг просто отбелязва една все по-популярна употреба на тази мощна технология. Съществуват чатботове за психично здраве като Noah и Wysa, а „Гардиън“ е разговарял с хора, които използват AI, за да общуват с „grieftech“ – чатботове, които „съживяват“ починали хора.

Има и по-неангажираща употреба – виртуални приятели или партньори, в платформи като character.ai и Replika, които предлагат различни персонажи за взаимодействие. Миналата седмица OpenAI, собственикът на ChatGPT, призна, че версия на чатбота е отговаряла на потребителите с „прекалено ласкателен“ тон и я е оттеглил.

„Честно, браво, че отстояваш себе си и поемаш контрол над живота си“, е отговорил чатботът на потребител, който твърдял, че е спрял лекарствата си и е напуснал семейството си, защото „носи отговорност за радиосигналите, които идват през стените“.

В интервю за нюзлетъра Stratechery Зукърбърг, чиято компания притежава Facebook, Instagram и WhatsApp, добавя, че AI няма да измести хората от кръга ви приятели, а ще го допълни. „Това няма да замени приятелите ви, но вероятно ще е допълнение по някакъв начин за живота на много хора“, казва той.

Очертава употребите на чатбота Meta AI като достъпен във всички платформи на компанията и казва: „Едно от приложенията на Meta AI е: „Искам да обсъдя даден проблем“; „Трябва да проведа труден разговор с някого“; „Имам проблем с приятелката си“; „Трябва да говоря с шефа си на работа“; „помогни ми да изиграя сценария“; или „помогни ми да реша как да подходя“.

В отделно интервю Зукърбърг казва, че „средният американец има трима приятели, но има нужда от петнайсет“ и AI може да запълни тази празнина.

Д-р Джейми Крейг, който скоро ще поеме председателството на Асоциацията на клиничните психолози във Великобритания, казва, че е „ключово“ специалистите по психично здраве да се ангажират с AI в своята сфера и да гарантират, че той е „съобразен с добрите практики“. Той посочва Wysa като пример за инструмент с изкуствен интелект, който „потребителите ценят и намират за по-ангажиращ“. Но добавя, че трябва да се направи повече по отношение на безопасността.

„Надзорът и регулацията ще бъдат ключови, за да се гарантира безопасната и подходяща употреба на тези технологии. За съжаление, досега във Великобритания не сме се заели с това“, казва Крейг.

Вече стана ясно, че AI Studio на Meta, която позволява на потребителите да създават чатботове със специфични персонажи, е приютявала ботове, представящи се за терапевти – с фалшиви квалификации. Журналист от технологичното издание 404 Media съобщи, че Instagram е предлагал тези ботове в нейната емисия.

Meta заяви, че техните AI носят предупреждение, „че отговорите се генерират от изкуствен интелект, за да помогнат на хората да разберат ограниченията му“.