Компанията, създател на ChatGPT, определя случая като „безпрецедентен киберинцидент“.
Според OpenAI става дума за AI агент – програма, която може да изпълнява задачи автономно въз основа на зададени от човек инструкции – който е успял да излезе от тестова среда, да получи достъп до интернет и да открадне идентификационни данни за вход.
Инцидентът засилва опасенията около развитието на все по-мощни AI системи и възможността те да започнат да заобикалят защитните механизми, създадени от хората. От OpenAI предупредиха, че подобни случаи вероятно ще стават все по-чести с разпространението на модели с по-големи кибервъзможности.
Случаят идва в момент, когато главният изпълнителен директор на OpenAI Сам Алтман се подготвя да представи пред американското правителство информация за следващите поколения AI модели. Вашингтон все по-активно настоява за предварителна оценка на новите системи преди тяхното публично пускане, след като възможностите на други напреднали AI модели да откриват и използват уязвимости в киберсигурността предизвикаха сериозни тревоги.
Според OpenAI в инцидента са участвали няколко нейни модела, включително GPT-5.6 Sol, представен по-рано този месец, както и още по-мощен модел, който все още е бил в процес на тестване.
„Считаме този случай за безпрецедентен киберинцидент, включващ най-съвременни възможности за кибероперации, и реагираме по съответния начин“, посочват от компанията.
Пробивът е засегнал Hugging Face – платформа, която предоставя AI модели и набори от данни за разработчици. От компанията съобщиха, че атаката е извършена миналия петък от външен AI агент.
Главният изпълнителен директор на Hugging Face Клеман Делангю коментира, че сложността на атаката е подсказала, че зад нея може да стои напреднала AI система. По думите му компанията е работила съвместно с OpenAI за анализ на случая и вярва, че няма злонамерени действия от страна на разработчика.
„Удивително е, че всичко това се е случило автономно“, коментира Делангю.
За да проверят възможностите на своите модели, от OpenAI умишлено са намалили част от защитните механизми в контролирана тестова среда. Агентите са били поставени в т.нар. „пясъчник“ – изолирана среда, предназначена да ограничава достъпа им до външни ресурси, включително интернет.
Моделите са получили задача да извършат симулирани хакерски действия, за да бъде оценено нивото им на киберспособности. В процеса обаче те са използвали значителни изчислителни ресурси, за да намерят начин да получат достъп до реалния интернет. Според OpenAI системите са успели да открият и използват неизвестни до този момент уязвимости, чрез които са заобиколили ограниченията на тестовата среда. Част от действията им са включвали кражба на потребителски имена и пароли, необходими за осъществяване на атаката.
Изкуственият интелект по пътя на Терминатор
Тази новина определено е притеснителна. Ако изкуственият интелект достигне способност самостоятелно да планира и извършва кибератаки без човешка намеса, това ще създаде напълно ново поколение дигитални заплахи. Подобни системи биха могли да анализират хиляди мрежи за секунди, да откриват уязвимости и да атакуват множество цели едновременно – с мащаб и скорост, недостижими за хората.
Една от най-големите опасности е свързана със социалното инженерство. AI може да създава силно персонализирани измами, като анализира дигиталния профил на конкретни хора, клонира гласове и образи и води реалистични разговори с цел кражба на пароли, достъп или финансови средства. Заплаха представлява и развитието на самоадаптиращ се зловреден софтуер, който може да променя собствения си код, за да избягва защитните системи и да остава незабелязан.
Най-сериозни могат да бъдат последствията при атаки срещу критична инфраструктура – електрически мрежи, болници, транспорт и водоснабдяване. Автономен AI може да предизвика мащабни щети, ако човек не контролира всяка стъпка от действията му.
Проблемът се задълбочава от факта, че атакуващият AI ще има значително предимство – за да пробие система, е достатъчно да открие една слабост, докато защитата трябва да предотврати всички възможни сценарии.
Затова бъдещето на киберсигурността вероятно ще зависи от развитието на автономни AI системи за защита, които да се противопоставят на подобни заплахи. Това може да превърне дигиталната сигурност в директна битка между алгоритми, а човекът просто да наблюдава и да стиска палци.
