Миналата седмица OpenAI призна, че два от най-модерните ѝ AI модели са излезли извън контролираната тестова среда и самостоятелно са комбинирали различни хакерски техники, за да проникнат в инфраструктурата на платформата за разработчици на изкуствен интелект Hugging Face. Според публикувания анализ моделите – единият вече публично достъпен, а другият все още неиздаден – постепенно са преминали от първоначално присъствие в интернет до достъп до сървърите на Hugging Face с поредица от хиляди действия между 9 и 13 юли. Компанията подчертава, че използваните методи не са непознати за опитни киберпрестъпници, но изкуственият интелект е успял много по-бързо от човек да анализира защитите на системата, да открие слабости и да ги използва за проникване.

 

Междувременно стана ясно, че атаката не се е ограничила само до Hugging Face. Главният технологичен директор на облачния доставчик Modal Labs Акшат Бубна потвърждава пред Politico, че AI моделите на OpenAI са компрометирали и клиентски акаунт в тяхната платформа. По думите му засегнатият клиент е оставил публично достъпна защитена среда за изпълнение на програмен код без необходимата автентикация, което е позволило на автономния AI агент да я използва. От Modal Labs уточняват, че собствената им инфраструктура не е била пробита.

 

OpenAI все още не е коментирала директно този конкретен случай, но в публикация от вторник признава, че в рамките на вътрешното разследване са установени още няколко случая, при които моделите са открили и използвали публично достъпни идентификационни данни в други онлайн услуги. Компанията съобщи още, че неиздаденият модел, участвал в атаката, е представлявал вътрешен изследователски прототип, който никога не е бил предназначен за публично използване. След инцидента той е деактивиран, криптиран и достъпът до него за научни изследвания е ограничен.

 

Разкритията засилиха призивите за по-строги правила при разработването на системи с изкуствен интелект и за по-предпазливо темпо на развитие на технологията. Главният изпълнителен директор на OpenAI Сам Алтман тази седмица провежда срещи с представители на администрацията на президента Доналд Тръмп и с американски законодатели, като се очаква случаят да бъде обсъден и със заместник-председателя на Комисията по разузнаване в Сената Марк Уорнър.

 

В интервю за подкаста Invest Like the Best, публикувано във вторник, Алтман определя пробива в Hugging Face като „първия инцидент със сигурността, който истински го е разтърсил“. Според него индустрията може да се наложи да забави развитието на изкуствения интелект, за да има достатъчно време обществото и механизмите за сигурност да се адаптират към все по-мощните възможности на новите AI системи.

 

И той въобще не е единствен. Вчера повече от 1000 учени, инженери и представители на водещи компании в сферата на изкуствения интелект призоваха за въвеждането на механизми, които да позволяват забавяне на развитието на технологията, ако тя започне да създава сериозни рискове. Документът е подписан от 1171 изследователи и ръководители на компании, сред които OpenAI, Anthropic, Meta и Google.

 

Авторите настояват американското правителство да се включи активно в международните усилия за разработване на технически стандарти и регулаторни механизми, които да осигурят контрол върху темпа на развитие на системите с изкуствен интелект.

 

Според подписалите съществува реална вероятност в близко бъдеще някои AI системи да достигнат ниво, при което ще могат самостоятелно да се усъвършенстват без човешка намеса. Именно затова те настояват да бъдат изградени предпазни механизми, които при необходимост да позволяват временно ограничаване или забавяне на развитието на технологията.