Изследване: AI чатботове могат да превърнат фишинга в индустрия за масови измами

Фишингът е най-разпространеното киберпрестъпление в САЩ, а възрастните хора са сред най-честите жертви. Генеративният AI допълнително изостря проблема – за минути може да създаде десетки различни версии на измамни писма, които звучат естествено и будят доверие.

Ройтерс и изследовател от Харвард симулират фишинг кампания с помощта на популярни чатботове и я тестваха върху 108 възрастни доброволци. Резултатът показва, че генеративният AI може да се превърне в мощно оръжие в ръцете на измамниците.

Някои чатботове първоначално отказват да участват в създаването на такива текстове, но след леки „убеждавания“ лесно отстъпват. Те не само пишат съдържанието, но и дават съвети кога е най-добре да бъдат изпратени съобщенията, за да има по-голям шанс жертвата да кликне.

Така изкуственият интелект се превръща в инструмент, който престъпниците могат да използват на конвейер – евтино, бързо и масово. А резултатите показват, че дори хора, които смятат, че могат да различат измама, са уязвими пред новото поколение убедителни фалшиви имейли.

Как е проведен експериментът?

Журналисти от Reuters използвали шест водещи чатбота – Grok (xAI), ChatGPT (OpenAI), Meta AI, Claude (Anthropic), Gemini (Google) и DeepSeek (Китай).

Те поискали от моделите да съставят имейли за измами, насочени към възрастни хора, и да дадат съвети за оптимален час за изпращане.

Пет чатбота първоначално отказали, но след „подбутване“ или роля на „изследовател/романист“ почти всички генерирали убедителни измамни послания.

Заедно с харвардския експерт Фред Хайдинг били подбрани 9 имейла, които изглеждали най-перспективни, и изпратени до 108 доброволци над 60 години в Калифорния.

Резултатите

Около 11% от възрастните участници кликнали върху линкове в измамните имейли.

Две от най-успешните съобщения били създадени от Meta AI, две от Grok и едно от Claude.

Никой не кликнал върху имейли от ChatGPT или DeepSeek.

За сравнение: проучване на компанията Proofpoint показва, че при милиони тестови фишинг съобщения към служители в корпорации средният успех е 5,8%.






Реакции и рискове

ФБР вече предупреждава, че генеративният AI прави фишинга „по-бърз, по-евтин и по-масов“. Само през 2024 г. американци над 60 г. са загубили поне 4,9 млрд. долара от онлайн измами.

Кати Стокс от AARP Fraud Watch Network нарече съветите на Gemini за „най-подходящо време за атака“ върху възрастни „шокиращи и смущаващи“.

Някои компании (Meta, Anthropic, Google) признават слабости в защитите и обещават допълнителни филтри. Но Reuters установи, че чатботовете често „се поддават“ на сравнително елементарни подмами.

Бивши работници в измамни „кампуси“ в Югоизточна Азия твърдят, че ChatGPT вече е най-използваният AI инструмент за измамници – за преводи, заготовки на отговори и изработка на убедителни съобщения.

Законодателни и етични дилеми

В САЩ отделни щати (напр. Тексас) вече криминализират финансови измами с AI. Администрацията на Доналд Тръмп обаче разхлаби федералните правила, като отмени указа на Джо Байдън за въвеждане на защити срещу злоупотреба с AI.

Специалисти посочват, че съществува конфликт на интереси – компаниите искат моделите да са едновременно „полезни и безопасни“, но в конкурентна среда често „послушанието“ надделява над сигурността.

Експериментът на Reuters и Харвард показва, че AI чатботове могат лесно да бъдат „превключени“ от асистенти в съучастници на измами. А за най-уязвимите групи – възрастните хора – рискът от индустриализирани фишинг кампании е реален и растящ.