Mythos изплаши САЩ: Вашингтон започва да проверява новите AI модели

Това ще позволи на правителството по-добре да оценява възможностите на най-напредналите AI системи и да подобрява стандартите за тяхната сигурност.

Решението идва на фона на обсъждания в Белия дом за допълнителни мерки, с които новите модели да бъдат оценявани преди масовото им разпространение. Източници, запознати с процеса, посочват, че съветници на президента Доналд Тръмп обмислят дори изпълнителна заповед за въвеждане на подобни проверки, макар че разговорите са в начален етап.

Причината за всичко това е, че американските власти са били обезпокоени от ранните версии на новия модел на Anthropic – Mythos, който според компанията има значително по-големи възможности да открива и използва уязвимости в киберсигурността. Главният изпълнителен директор на Anthropic Дарио Амодей се е срещнал с началника на кабинета на Белия дом Сюз Уайлс, което се тълкува като знак за подобряване на отношенията между компанията и администрацията.

По-рано стартъпът беше определен като риск за националната сигурност, след като отказа да предостави неограничен достъп на Пентагона до технологията си. Впоследствие компанията заведе дело срещу администрацията заради тази квалификация. По-късно Доналд Тръмп смекчи тона, заявявайки в интервю за CNBC, че Anthropic „се развива в правилната посока“ и че отношенията вероятно ще бъдат добри.

Новото споразумение е сходно с предишни договорености от времето на администрацията на Джо Байдън, сключени с Anthropic и OpenAI. В техните рамки правителството получаваше достъп до модели преди публичното им пускане, за да оценява рисковете. Тези структури по-късно бяха реорганизирани в рамките на американския Институт за безопасност на AI.

Оттогава са извършени над 40 подобни оценки. Изследователи получават достъп до модели с премахнати или ограничени защити, за да анализират възможностите и потенциалните рискове.

Фокусът на тези проверки е върху области, свързани с националната сигурност, включително киберсигурност, биосигурност и риск от злоупотреба с химически оръжия. Агенцията също така анализира системи, разработвани в Китай, и координира резултатите с Пентагона, Белия дом и разузнавателните служби.

Според директора на агенцията Крис Фол „независимото и прецизно измерване на технологиите е ключово за разбирането на напредналия изкуствен интелект и неговото въздействие върху националната сигурност“. Той подчертава, че новите партньорства с индустрията ще помогнат за по-ефективна работа в обществен интерес.

През последния месец представители на технологичната индустрия и експерти по безопасност призоваха Конгреса да увеличи финансирането за институцията, за да може тя да се справи с нарастващите предизвикателства, свързани с развитието на изкуствения интелект.

Защо Mythos притеснява Вашингтон

Една от основните тревоги около напредналия модел на Anthropic е свързана с потенциалната способност на системата за автономно вземане на решения в киберпространството. За разлика от по-ранни генерации модели, които изискват детайлни човешки инструкции, новите системи показват признаци на самостоятелно стратегическо планиране. Това включва възможност за откриване и експлоатация на уязвимости в критична инфраструктура като електропреносни мрежи и банкови системи.

Според експерти подобно поведение би могло да превърне технологията в мощен инструмент за организирани кибератаки, включително такива, подкрепяни от държавни структури.

Друг сериозен риск е свързан с въздействието върху общественото мнение чрез генериране на т.нар. deepfake съдържание и мащабни дезинформационни кампании. Властите се опасяват, че подобни модели могат да създават хиперреалистични текстове, изображения и видеа, които са практически неразличими от действителността. Това би позволило едновременното разпространение на хиляди персонализирани послания, насочени към конкретни групи избиратели, което значително затруднява традиционните механизми за проверка на фактите и противодействие на фалшива информация.

Третият основен проблем е свързан с възможното приложение на моделите в разработването на биологични и химически агенти. Според експертни оценки съществува риск системи от този клас да предоставят чувствителна научна информация и подробни инструкции, които могат да бъдат използвани за създаване на опасни патогени или химически вещества. Това би могло да улесни дейността на лица или групи без необходимата експертиза, като им даде достъп до знания, които традиционно са били ограничени или изискват дългогодишна специализирана подготовка.