ЕС даде своя отговор на този въпрос още през 2024 г. с влизането в сила на AI Act. Въпреки че не засяга пряко модели като „бегълците“ на OpenAI, той е първото законодателство в света, което поставя рамка за използването на AI.
Какви са неговите цели и кои индустрии ще бъдат най-засегнати разказва пред ФрогНюз д-р Галя Манчева. Тя има над 10 години опит във финансово-технологичната индустрия, а в момента управлява компанията Ai advy, която помага на бизнеса да отговаря на европейските изисквания и регулации за изкуствения интелект.
Какво всъщност е AI Act? Кои области на изкуствения интелект обхваща и каква е неговата цел?
AI Act е първата цялостна регулаторна рамка в света, която урежда разработването и използването на изкуствен интелект. Европейският съюз въвежда този подход с идеята да намери баланс между две основни цели – от една страна да насърчи иновациите и конкурентоспособността, а от друга – да гарантира безопасното и отговорно използване на AI технологиите.
Основният принцип на регламента е т.нар. рисково-базиран подход. Това означава, че изискванията зависят от потенциалното въздействие на конкретната AI система върху хората, техните права, безопасността и обществения интерес.
AI Act обхваща широк спектър от приложения – от системи с неприемлив риск, които са забранени, през високорискови AI системи, до модели с общо предназначение и приложения, при които се изисква прозрачност.
Целта е да бъде създадена среда, в която гражданите и бизнесът могат да имат доверие в изкуствения интелект, защото именно доверието ще бъде ключов фактор за неговото устойчиво внедряване.
Какво представляват високорисковите AI системи и какви изисквания ще бъдат въведени за тях?
Високорискови са AI системите, които могат да окажат значително влияние върху живота и правата на хората. Такива са например системите, използвани при подбор и управление на човешки ресурси, образование, кредитиране и достъп до финансови услуги, здравеопазване, публична администрация и др.
За тези системи се въвеждат конкретни изисквания, които включват управление на риска през целия жизнен цикъл на системата, качество и управление на данните, техническа документация, проследимост и човешки контрол и киберсигурност.
Организациите, които започнат подготовката навреме, ще имат конкурентно предимство, защото ще могат да внедряват изкуствен интелект по-бързо, по-сигурно и с по-високо доверие от своите клиенти и партньори.
Кои сектори в икономиката ще бъдат засегнати най-много от тях? Къде се използват най-вече този тип високорискови AI системи?
Най-силно ще бъдат засегнати секторите, в които AI участва във вземането на решения, които могат да променят живота или възможностите на хората.
Важно е да се разбере, че AI Act не регулира конкретни индустрии, а начина, по който се използва технологията.
Затова дори компании, които не са технологични, могат да попаднат в обхвата на регламента, ако използват AI за автоматизирани решения, засягащи хора.
Как трябва да се подготвят компаниите, за да отговорят на изискванията, заложени в AI Act?
Първата стъпка е компаниите да бъдат подложени на AI одит, за да се установи какви инструменти използват, за какви процеси и какви рискове могат да възникнат.
Следва оценка на риска и определяне на ролята на организацията според AI Act – дали тя е доставчик, внедрител или потребител на AI система.
Необходимо е привеждане в съответствие с регламента и изграждане на вътрешно управление на AI – политики, процедури, определяне на отговорности, обучение на служители, контрол върху използваните данни и механизми за човешки надзор.
Вие имате дългогодишен поглед над темата. Готов ли е българският бизнес за AI Act или напротив – изостава?
Подготовката на българския бизнес за AI Act е неравномерна. Наблюдава се значителна разлика между големите компании и организациите с международно присъствие, от една страна, и голяма част от малките и средните предприятия, от друга.
Големите компании вече активно работят по темата, защото са свикнали с комплексни регулаторни изисквания, международни стандарти за управление на риска и процеси за вътрешен контрол. В много от тях вече се създават вътрешни политики за използване на изкуствен интелект, извършват се оценки на риска и се определят отговорности при внедряването на AI решения.
При много малки и средни предприятия обаче все още има необходимост от повече информираност и практически насоки. Основният проблем е, че голяма част от организациите вече използват AI инструменти ежедневно – например за автоматизация, анализ на данни, маркетинг, обслужване на клиенти или оптимизация на процеси – но не винаги осъзнават, че това създава нов тип технологичен, правен и управленски риск.
Предизвикателството не е само в разбирането на самия регламент, а в изграждането на култура за отговорно използване на изкуствения интелект. Компаниите трябва да знаят какви системи използват, какви данни обработват, какви решения автоматизират и как да гарантират прозрачност, надеждност и подходящ човешки контрол.
Затова следващият период трябва да бъде насочен към образование, изграждане на експертиза и създаване на практически решения, които да помогнат на бизнеса да се адаптира. AI Act не трябва да се възприема само като допълнително регулаторно изискване, а като възможност компаниите да изградят по-зрели процеси за управление на технологичния риск и да използват изкуствения интелект по по-сигурен и ефективен начин.
За България това е и възможност да развие собствен капацитет в областта на безопасното и отговорно използване на изкуствения интелект. Организациите, които успеят да съчетаят технологичните иновации с добро управление на риска, ще бъдат по-конкурентоспособни в бъдещата дигитална икономика.
Много експерти виждат предимно негативи в AI Act, други – предимно позитиви. Кое от двете е вярно?
Според мен въпросът не е дали трябва да има регулация, а как да бъде създадена такава регулаторна среда, която едновременно защитава обществото и позволява развитие на бизнеса.
Европа избира подход, основан на доверие и отговорност. Това може да бъде конкурентно предимство, защото в бъдеще организациите няма да се конкурират само с по-бързи технологии, а и с това доколко потребителите, инвеститорите и бизнес партньорите им имат доверие.
Изкуственият интелект има огромен потенциал – за повишаване на производителността, научни открития, по-добри услуги и икономически растеж. Но устойчивото му развитие изисква баланс между иновации, сигурност и отговорност.
Важно е също да се отбележи, че регулацията сама по себе си не създава конкурентоспособност – тя трябва да бъде съчетана с инвестиции в научни изследвания, образование, цифрова инфраструктура и развитие на човешкия капитал. Европа не трябва да избира между иновации и правила, а да покаже, че може да създаде модел, при който технологичният напредък върви заедно с етични стандарти и защита на основните права.
За България това представлява не само предизвикателство, но и възможност. Страната ни има потенциал да се възползва от новата среда, ако бизнесът, институциите и академичната общност работят заедно за изграждане на експертиза и практическо прилагане на AI решения.
В крайна сметка въпросът не е дали ще използваме изкуствения интелект, а дали ще го направим по начин, който създава стойност, доверие и устойчиво развитие.
