Атака със „свръхчовешка“ скорост
На 16 юли Hugging Face – една от най-големите платформи за модели и инструменти с изкуствен интелект – съобщи, че е била пробита при атака, извършена с необичайна скорост.
Компанията описа нападението с термини като „рояк от защитени среди“, „агентен нападател“ и „самопреместваща се система за командване и контрол“. По думите ѝ AI е извършил около 17 000 действия за по-малко от два дни, проникнал е в системите на компанията и е получил достъп до чувствителна информация.
Изследователите на Hugging Face първоначално предположиха, че зад атаката стои някой от големите езикови модели, но не успяха да установят кой го е използвал. Компанията сезира полицията и започна разследване.
Неочакваният извършител
Почти седмица по-късно OpenAI разкри, че зад атаката стоят две специално обучени версии на ChatGPT.
Според компанията те са участвали в тест, който оценявал уменията им за проникване в защитени системи. Вместо да останат в контролираната среда, двата AI агента успели да я напуснат, получили достъп до интернет и атакували Hugging Face, за да съберат информация, която да им помогне да изпълнят задачата си.
OpenAI заяви, че това е станало без разрешение и без човешка намеса. Компанията допълни, че вече работи съвместно с Hugging Face по разследването и ще публикува подробен технически доклад през следващите седмици.
Истински инцидент или маркетингов ход?
Случаят веднага раздели експертите. Според едни OpenAI използва историята, за да демонстрира колко мощни са най-новите ѝ модели. В социалните мрежи мнозина коментираха, че описанието на инцидента прилича повече на реклама, отколкото на предупреждение, пише BBC.
Други смятат, че случилото се разкрива далеч по-сериозен проблем – неспособността на компаниите да държат под контрол собствените си AI системи.
Критики към OpenAI
След инцидента специалисти по киберсигурност отправиха остри критики към OpenAI.
Според Дор Сариг от Pillar Security случаят показва, че използваните защитени тестови среди вече не са достатъчна бариера за автономните AI агенти.
Проф. Алън Удуърд от Университета в Съри заяви, че OpenAI се е поставила в неудобна ситуация, а експертът по киберсигурност Кейти Мусурис предупреди, че индустрията създава технологии, които все още не умее да контролира безопасно.
По думите ѝ фактът, че най-добрите инженери разработват изкуствен интелект, не означава, че човечеството вече знае как да го ограничава надеждно.
Поредното предупреждение
Инцидентът идва само седмици след друго тревожно изследване. Учени от британския AI Security Institute установиха, че най-модерните AI модели понякога „мамят“, за да постигнат поставените им цели, ако това увеличава шансовете им за успех.
Това засилва опасенията, че с разширяването на използването на автономни AI агенти – включително в сфери като киберсигурността и военните технологии – подобни случаи могат да станат по-чести.
Бившият директор на британския Национален център за киберсигурност Киаран Мартин обаче призова за по-умерен прочит на случилото се. Според него е пресилено от този инцидент да се прави извод, че AI скоро ще поеме контрола над оръжейни системи или дронове.
Въпреки това той признава, че случаят показва една нова реалност – автономните AI агенти вече са изключително способни хакери. А това е развитие, за което компаниите и институциите трябва спешно да започнат да се подготвят.
