ChatGPT: скоро и с еротични умения

Това е решение с едва прикрити търговски мотиви, което повдига тревожни въпроси относно етиката и сексуализирането на изкуствения интелект.

Като се позова на принципа на компанията „отнасяйте се с възрастните като с възрастни“, основателят на OpenAI заяви в социалните медии, че една от предстоящите промени в чатбота ще бъде да му позволи да произвежда еротично съдържание от декември – макар и само, подчерта той, за проверени възрастни.

„Това е доста минималистично като съобщение, но изглежда, че ще се отнася само за писмен текст“, каза Свен Нихолм, специалист по етика, свързана с изкуствения интелект. С други думи, OpenAI не изглежда готов – все още – да поиска от своя звезден чатбот да генерира рискови изображения или видеоклипове.

Дори ограничен до писмена еротика, ChatGPT ще бъде първият голям чатбот, който ще се потопи в дигиталното съдържание на сексуализирано съдържание. Другите модели – Perplexity, Claude и Gemini на Google – засега отказват да го направят.

„Това не е позволено“, каза Perplexity в отговор на въпрос на FRANCE 24. „От друга страна, напълно е възможно да се подходи към темата за еротиката или сексуалността от образователна или психологическа гледна точка.“

ChatGPT обаче няма да бъде единственият играч в тази нововъзникваща област. Редица нишови чатботове вече са стъпили на този хлъзгав терен, като например платената версия на Replika - услуга, базирана на изкуствен интелект, която създава изкуствени спътници за потребителите.

„В Силициевата долина имат този манталитет, че всеки проблем има технологично решение“, каза Найхолм. „И Марк Зукърбърг, ръководителят на Meta, предложи един от начините да се реагира на световната „епидемия от самота“ като се създадат емоционални чатботове.“ „Има две движещи сили за развитието на новите технологии“, каза Найхолм. „Военни приложения и порнография.“

Алтман изглежда е решил, че най-доброто нещо, което може да направи, е да бъде първият на пазара. „Очевидно е, че това е преди всичко маркетинг“, каза британският компютърен учен Кейт Девлин, специалист по взаимодействията човек-машина в King's College London и автор на книгата „Turned On: Science, Sex and Robots“. „Той знае как да каже това, което смята, че публиката иска да чуе. Сам Алтман видя, че хората се опитват да заобиколят ограниченията на Siri на Apple или Alexa на Amazon, за да водят подобни разговори, и прецени, че може да се печелят пари.“

„Много вероятно е това да е опит да се привлече тази публика и да се привлекат повече потребители към платформата им“, каза Саймън Торн, специалист по изкуствен интелект в Университета в Кардиф. „Остава да видим как OpenAI планира да монетизира тази еротична опция. Най-очевидният подход, разбира се, би бил да се таксуват потребителите за възможността да участват в такива разговори.“

Платена „премиум“ версия наистина би била изкушаваща за OpenAI, като се има предвид фактът, че порнографията е доказано потенциално пристрастяваща, каза Девлин. Друг вариант би могла да бъде многоетапна система с евтин достъп до най-скромния вариант на чатбота и по-високи такси, изисквани от потребителите, които искат да издигнат разговорите си до по-сексуално откровени висоти.

Алтман вече бе критикуван след обявяването на идеята. „Ние не сме избраната морална полиция на света“, написа той в публикация с X, като защити решението си. „По същия начин, по който обществото разграничава други подходящи граници (например филми с рейтинг R), ние искаме да направим нещо подобно тук.“

Натискът на Алтман да насочи чатбота си в по-разгорещена посока идва в период на нарастващи противоречия около понякога токсичните „взаимоотношения“ между изкуствените интелекти и техните потребители. Родителите на тийнейджър, който се самоуби по-рано тази година, съдиха OpenAI през август, заявявайки, че ChatGPT открито е насърчавал суицидните импулси на сина им.

Друг потребител на 47 години от Канада, очевидно се е убедил, че е математически гений, изпратен да спаси човечеството, само след три седмици разговори с чатбота. 

„Това е основният проблем с тези секс-ботове“, каза Девлин. „Какво е въздействието върху хората, които вече са уязвими?“

OpenAI обеща да постави предпазни мерки, за да избегне тези злоупотреби. За Торн тези защити изглеждат оскъдни на фона на широко използваните практики за „джейлбрейк“, при които потребителите могат да подведат чатботове да генерират отговори, обикновено забранени от тяхната програма.

„Като се има предвид, че законите за това какво е и какво не е разрешено често се различават в различните страни, ще бъде много трудно за OpenAI да определи общи правила“, каза Торн. 

Девлин предупреди, че базираният в САЩ стартъп може да се изкуши да играе на сигурно, като ограничи максимално определението на ChatGPT за приемливо еротично съдържание. „В САЩ например в момента има много силна консервативна промяна, която намалява правата на жените и се стреми да ограничи видимостта на ЛГБТ общността“, каза тя. „Какво ще се случи, ако ChatGPT включи тези предубеждения?“

Найхолм пък каза, че това е тревожен подход, когато става въпрос за сексуални въпроси. „Да вземем за пример движението „incel“, тези млади мъже, които са сексуално разочаровани и се оплакват от жените“, „Ако чатбот винаги ги оставя доволни, това рискува да засили убеждението им, че жените трябва да действат по същия начин.“

Според Делвин обаче, тази подкрепяща страна на секс ботовете може да бъде благодат за хетеросексуалните жени, отчуждени в онлайн света, който се усеща все по-враждебен. „В една все по-токсична дигитална среда може да бъде по-сексуално удовлетворяващо да имате еротично взаимодействие с изкуствен интелект, вместо с реални хора, които биха могли да ви тормозят онлайн“, каза тя.

„Много хора не осъзнават, че данните, които въвеждат в ChatGPT, се изпращат до OpenAI“, каза Девлин.

Ако Алтман успее да поеме контрола над тази разрастваща се индустрия, OpenAI ще притежава „без съмнение най-голямото количество данни за еротичните предпочитания на хората“, каза Торн.

Това е въпрос, който потребителите вероятно трябва да имат предвид, преди да се впуснат в похотлива прегръдка със своя вечно покорен секс-бот.