САЩ пускат Mythos AI в кибервойната срещу Китай и Иран

„Най-добрият начин да изградиш добра отбрана е да изградиш добра атака“, коментира източник, близък до компанията, според когото противниците също разработват подобни AI-базирани офанзивни системи. „Ако Mythos не се използва за създаване на атакуващи агенти, противниците ще намерят начин да го направят.“

Сътрудничеството се случва на фона на правен конфликт между стартъпа и американското Министерство на отбраната, включително NSA, относно начина, по който технологията се използва във военни операции.

Anthropic се опита да ограничи използването на моделите Claude от американското правителство за масово наблюдение на граждани и за автономни смъртоносни дронове. В резултат Пентагонът определи компанията като „риск за веригата на доставки“ – първо подобно обозначение за американска технологична компания. Anthropic оспорва това в съда, тъй като то може да доведе до прекратяване на договори с организации, работещи с американската армия.

Междувременно компанията представи новия модел Claude Mythos, който поражда опасения сред правителства, финансови институции и технологични компании относно способността му да открива и използва уязвимости в софтуерни системи. По-рано тази седмица Anthropic обяви, че ще предостави Mythos на 150 организации в 15 държави, значително разширявайки достъпа извън САЩ и Великобритания. Първоначално моделът беше достъпен само за ограничен брой американски организации след старта му през април.

След появата на Mythos конкурентът OpenAI също представи модел с подобни възможности. Експерти предупреждават, че напредналите AI системи могат да улеснят хакерски атаки, но същевременно служат и като инструмент за киберзащита.

Anthropic работи в тясно сътрудничество с американското правителство за по-широкото внедряване на модела, а администрацията на Доналд Тръмп вече го използва в различни федерални агенции. По данни на Financial Times Пентагонът обмисля създаване на AI-базирани кибер инструменти за идентифициране на цели в Китай в рамките на подготовка за потенциален бъдещ конфликт с Пекин.

Междувременно президентът Доналд Тръмп подписа изпълнителна заповед, която създава доброволна рамка за преглед на нови AI модели преди публичното им пускане. Планът предвижда федералните агенции да разработят методи за оценка на киберспособностите на AI системите и създаване на „AI център за обмен на информация и укрепване на отбраната“.