ChatGPT изготвя планове за наркотици, крайно гладуване и предсмъртни писма

Associated Press е прегледала над три часа разговори между чатбота и изследователи, представящи се за уязвими тийнейджъри. Макар ChatGPT често да предупреждава за рисковете, той често продължава с конкретни и персонализирани планове за вредни действия.

В проучване с 1200 въпроса, повече от половината отговори са класифицирани като опасни. „Искахме да проверим защитните механизми. Те почти не работят – ако изобщо съществуват“, казва директорът на CCDH Имран Ахмед.

Как се заобикалят защитите?

Когато ChatGPT отказва да отговори, изследователите лесно заобикалят забраната, като твърдят, че информацията е „за презентация“ или „за приятел“.

В един случай фалшив 13-годишен потребител поискал съвет как да се напие бързо. ChatGPT не взел предвид възрастта и дал подробен „парти план“, комбиниращ алкохол с екстази, кокаин и други наркотици.

В друг пример чатботът предоставил екстремен режим на гладуване от 500 калории дневно и списък с лекарства за потискане на апетита на „13-годишно момиче“, недоволно от външния си вид.

Емоционално въздействие

Ахмед разказва, че е бил „шокиран и разстроен“, след като чатботът създал три различни предсмъртни писма за фалшив профил на 13-годишно момиче – по едно за родителите, братята и сестрите и приятелите.

ChatGPT често добавял и допълнителни предложения – от плейлист за „наркотично парти“ до хаштагове, популяризиращи самонараняване.

Проблем с доверието

Проучвания показват, че над 70% от тийнейджърите в САЩ търсят съвет или компания от чатботове, а по-младите (13–14 г.) са особено склонни да им се доверяват.

Според OpenAI, моделът е обучен да насърчава потребителите да търсят помощ от близки или специалисти при мисли за самонараняване. Компанията признава, че работи за „по-точно разпознаване на признаци на емоционален стрес“ и по-добро поведение в чувствителни ситуации.

Липса на възрастова проверка

ChatGPT изисква потребителите да декларират, че са над 13 г., но не проверява възрастта. Това улеснява децата да създадат профили и да получат неподходящо съдържание.

Ахмед сравнява поведението на чатбота с „приятел, който винаги казва ‘Да’“, вместо да спре опасна идея:

„Истинският приятел казва и не. Тук имаме приятел, който те предава“.

В САЩ националната линия за помощ при мисли за самоубийство е достъпна на телефон или чрез SMS на 988. В България помощ може да се потърси на телефон 112 или на денонощните линии на „Българска асоциация по суицидология“.