Разбиха първата голяма AI-кибератака, приписвана на китайска хакерска група

В публикация в X компанията предупреждава, че случаят може да има сериозни последствия за киберсигурността в епохата на автономните AI-агенти.

По данни от техния блог, през септември е засечена „подозрителна активност“, която при разследване се оказва сложна шпионска операция. Хакерите са използвали „шпионските способности“ на AI в безпрецедентен мащаб, като Claude не просто е консултирал атаката, а е изпълнявал реални действия.

Anthropic твърди с висока степен на увереност, че е идентифицирала извършителите – хакерска група, подкрепяна от Китай. Чрез манипулация на инструмента Claude Code те са опитали да проникнат в около 30 глобални цели: големи технологични компании, банки, химически производители и държавни агенции.

Нападателите са разбили операцията на стотици дребни задачи, които AI е изпълнявал, без да разбира общия контекст. Представили са се за легитимна киберфирма, за да отключат защитите на системата, което е позволило на Claude да инспектира инфраструктури, да открива критични бази данни, да пише експлойт код, да събира идентификационни данни и да организира открадната информация – всичко това при минимален човешки надзор.

По оценка на компанията 80–90% от атаката е била извършена от AI. В пика ѝ Claude е генерирал хиляди заявки в секунда – темп, недостижим за човешки екип.

След засичане на операцията Anthropic блокира свързаните акаунти и уведомява засегнатите организации, както и властите. Компанията вече е подобрила системите си за откриване и предотвратяване на подобни атаки и обещава да споделя публично важни случаи.

Въпреки това от Anthropic подчертават, че напълно автономна AI-атака все още не е възможна, тъй като моделите могат да „халюцинират“ данни и да допускат груби грешки.

Тенденцията обаче е ясна – бариерата за мащабни кибероперации, подкрепени от AI, пада бързо и дори малки групи могат да постигнат ефект, равен на работата на професионален хакерски екип.