Ефектът Mythos: САЩ затягат надзора върху AI моделите с нов президентски указ

Макар по-рано администрацията да се дистанцира от идеята за задължителен предварителен федерален контрол, новата версия на указа залага на по-структурирана доброволна рамка за оценка на „напреднали“ AI модели с цел да се ограничат рисковете от сериозни щети, без да се спира иновацията.

Документът е част от по-широкия опит на администрацията да затегне надзора върху разработката на напреднали AI системи на фона на нарастващи опасения за киберзаплахи и геополитически рискове. Обсъжданията се засилват и след напрежение между компанията Anthropic и Пентагона относно ограниченията за военна употреба на нейните технологии.

Проектът за указ предвижда две основни направления – киберсигурност и регулация на т.нар. „гранични модели“. В първата част се дава 30-дневен срок на Пентагона да укрепи своите мрежи, включително телекомуникационни и информационни системи.

Администрацията също така планира в рамките на 30 дни да разшири използването на AI в държавните системи и критичната инфраструктура – включително банки в малки населени места, болници в селски райони и енергийни оператори.

Министерството на финансите ще ръководи доброволна инициатива с участието на индустрията за създаване на общ механизъм за обмен на информация и откриване на уязвимости, който трябва да заработи в рамките на 30 дни. В този процес ще участват и структури като Националната агенция за киберсигурност (CISA), Агенцията за национална сигурност (NSA) и Службата на националния кибердиректор.

Службата за управление на персонала ще бъде натоварена с разширяване на програмата U.S. Tech Force, чиято цел е привличане на висококвалифицирани AI специалисти към федералните институции.

Втората част на указа предвижда в срок от 60 дни редица агенции, включително Министерството на финансите, CISA и Националния институт за стандарти и технологии, да разработят класифицирана система за оценка на това кои модели се считат за „гранични“. В процеса ще участват и висши представители на Белия дом, включително началникът на кабинета, националният кибердиректор и ръководителят на Службата за наука и технологична политика.

Националната агенция за сигурност ще има последната дума при окончателното определяне на класификацията на моделите.

В рамките на доброволната рамка разработчиците ще бъдат насърчавани да сътрудничат с правителството преди пускането на нови модели, да предоставят достъп за предварителна оценка и да споделят информация с оператори на критична инфраструктура.

Mythos, който разтревожи американските служби

Причината за спешния фокус на американската администрация към темата се нарича Mythos – новият напреднал модел на Anthropic.

Една от основните тревоги около него е свързана с възможността той да взема автономни решения в киберпространството. За разлика от по-ранните поколения изкуствен интелект, които разчитат на детайлни човешки инструкции, новите системи вече показват елементи на самостоятелно стратегическо планиране. Това поражда опасения, че те могат да откриват и използват уязвимости в критична инфраструктура – включително електропреносни мрежи и банкови системи.

Според експерти подобни способности биха могли да превърнат технологията в инструмент за мащабни и координирани кибератаки, включително такива, организирани или подкрепяни от държавни структури.

Друг сериозен риск е влиянието върху обществените нагласи чрез генериране на deepfake съдържание и широкомащабни дезинформационни кампании. Властите се опасяват, че подобни модели могат да създават изключително реалистични текстове, изображения и видеа, които трудно се различават от истинските. Това би позволило масово разпространение на персонализирани послания, насочени към конкретни групи избиратели, и би затруднило традиционните механизми за проверка на фактите.

Третият ключов проблем е свързан с потенциалната употреба на тези модели при разработването на биологични и химически агенти. Експертни оценки сочат риск системите да предоставят чувствителна научна информация и подробни инструкции, които могат да бъдат използвани за създаване на опасни патогени или вещества. Така достъп до знания, които обикновено изискват дългогодишна специализация, може да бъде предоставен на хора без необходимата подготовка.