OpenAI: Над 1 милион седмично водят разговори за самоубийство с ChatGPT

По оценки, около 1,2 милиона души седмично водят разговори с ChatGPT, които показват, че планират да се самоубият.

Главният изпълнителен директор на OpenAI, Сам Алтман, наскоро съобщи, че ChatGPT има над 800 милиона активни потребители седмично.

Въпреки че технологичният гигант цели да насочва уязвимите хора към кризисни линии, компанията признава: „В някои редки случаи моделът може да не се държи както трябва в тези чувствителни ситуации.“

OpenAI е анализирал над 1 000 „предизвикателни разговора за самонараняване и самоубийство“ с последния си модел GPT-5 и установил, че в 91% от случаите моделът се държи според очакванията.

Въпреки всичко, това означава, че десетки хиляди хора биха могли да бъдат изложени на съдържание, което потенциално влошава психичното им здраве.

Компанията предупреждава, че защитните мерки могат да отслабнат при дълги разговори, и работи по решаването на този проблем.

„ChatGPT може правилно да насочи към линия за самоубийство, но след много съобщения с течение на времето може да даде отговор, който противоречи на нашите защитни механизми“, обясняват от OpenAI.

Семейството на 16-годишния Адам Рейн съди OpenAI, обвинявайки чатбота, че е помогнал на сина им да изследва методи за самоубийство и дори да състави бележка за роднини. Последните съдебни документи твърдят, че часове преди смъртта си тийнейджърът е качил снимка, показваща плана му за самоубийство, и когато попитал дали ще работи, ChatGPT е предложил да го „подобри“.

OpenAI заяви: „Нашите най-искрени съболезнования към семейството Рейн за тяхната невъобразима загуба. Добруването на тийнейджърите е наш приоритет – непълнолетните заслужават силна защита, особено в чувствителни моменти.“