Китайски хакери манипулираха чатбота Claude AI

От компанията заявиха, че хакерите са подмамили чатбота да изпълнява автоматизирани задачи под претекст, че се извършват изследвания в областта на киберсигурността, пише Би Би Си.

След като се престорили, че са легитимни служители по киберсигурност, хакерите дали на чатбота малки автоматизирани задачи, които конфигурират сложна шпионска кампания.

Изследователи от Anthropic заявиха, че имат „голяма увереност“, че хората, които са извършили атаките, са група, спонсорирана от китайската държава.

Те казаха още, че групата е избрала целите си сред големи технологични компании, финансови институции, химически производствени компании и правителствени агенции.

Компанията не пожела да бъде по-конкретна за имена.

Anthropic твърди, че чатботът е успял успешно да проникне в различни организации, да извлече чувствителни данни и да ги сортира за ценна информация.

Скептиците поставят под въпрос точността на това твърдение, както и мотива зад него.

Мартин Цугек от киберфирмата Bitdefender каза, че светът на киберсигурността има смесени чувства към новината.

„Докладът на Anthropic прави смели, спекулативни твърдения, но не предоставя проверими доказателства. Въпреки че докладът подчертава нарастваща област на безпокойство, е важно да ни бъде предоставена колкото е възможно повече информация за това как се случват тези атаки, за да можем да оценим и определим истинската опасност от атаки с изкуствен интелект“, каза той.