Meta обучава AI с данните ни. Богомил Николов за ФрогНюз: Черешите са изядени, логиката трябва да е обърната

Meta (компанията зад Facebook, Instagram и WhatsApp) започна да използва данните на потребителите – включително публикации, снимки, коментари и взаимодействия – за обучение на собствената си AI платформа, наречена Meta AI. Това се случи автоматично и без изричното съгласие на потребителите. Вместо да иска разрешение, компанията се позова на т.нар. „легитимен интерес“. Единственият начин потребителите да се защитят от тази практика е да подадат индивидуално възражение (opt-out) – възможност, за която малцина бяха информирани навреме.

Правата, рисковете и начините за реакция – в интервюто.

Г-н Николов, какво всъщност означава „използване на данните ни за обучение на AI“ – кои наши действия и публикации попадат в тази „мелачка“?

На практика всичко, което сме публикували в социалните мрежи, ще бъде използвано за обучение на AI. Това са текстове, снимки, видео и звук. Всичко, което е публично достъпно и не е частно съобщение или разговор, ще бъде използвано за машинно обучение.

Това законно ли е според GDPR, или е просто юридически танц с границите на регулацията?

Нашите данни представляват някакъв актив, който компаниите могат да ползват само срещу нашето съгласие или разрешение. 

Метафорично: ако някой иска да яде от черешите във вашата градина, трябва да ви поиска разрешение и да ви плати за това, че ще обере черешите ви. Така че ако някой иска да използва данните ви, той трябва да се договори с вас.

В случая обаче има обърната логика – аз съобщавам на всички собственици на череши в дворовете на нашия град, че ако не ни изпратите изричен нотариално заверен отказ, аз ще влизам и ще ям вашите череши.

Нещо подобно прави компанията с декларациите, което според нас противоречи на европейското законодателство, най-вече на GDPR.

Това е причината десетки потребителски организации от Европа да изпратим уведомление до съответните регулатори. В България изпратихме до три институции и чакаме те да се произнесат.

Meta твърди, че ще „разглежда възраженията“. Звучи сякаш оставят вратичка за отказ. Това не е ли нарушение на правото на възражение?

Мисля, че да.

Да се върнем на черешите. Аз ви казвам, че ще обирам черешите, когато си реша, и вие, като си видите обрания клон, да ми изпратите някаква молба, и аз ще си я разгледам и ще реша дали да ви върна черешите или не. Ясно е, че така не става. Логиката трябва да бъде обърната.

Не платформата решава – тя трябва да се допитва. Разбира се, това не е изгодно за тях. Ако искат нашето разрешение, те може да не го получат безвъзмездно. Може да се наложи да ви предложат морков – 6 месеца нещо безплатно, абонамент, някоя и друга екстра, или дори да ви платят, защото в крайна сметка това си е ваш актив.

Те това не го искат и затова вървят по линията на най-малкото съпротивление. Не забравяйте, че това е глобална компания, която иска да оперира на територията на стотици суверенни държави. Всяка от тях има право да има собствени закони и право на достъп. Редно е като отидеш в чуждия двор, да отидеш и да попиташ.

OpenAI и други компании също събират публично достъпни данни. Има ли нужда от паневропейска стратегия за защита на дигиталните права?

Има. GDPR е най-добрият законодателен акт в света, който се признава от всички – най-вече като принципи, логика, конструкция.

Въпросът е, че правоприлагането е малко по-бавно и изисква време. В случая органите най-вероятно ще постановят някакво решение. Въпросът е, че през това време определеният модел AI вече ще се е обучил, ще е обработил тези данни. Пак стигаме до черешите – те вече ще бъдат изядени. Единственото, което може да направи този, който ги е изял, е поне да си плати за това, че го е направил.

От друга страна, трябва да имаме прецедент, за да знае следващият, който иска да дойде и да изяде черешите, че не бива да го прави.

Какви регулаторни промени трябва да се случат на европейско или национално ниво, за да не се налага да водим тази битка всеки път отначало?

Аз смятам, че регулациите са добри. Самото правоприлагане трябва да бъде достатъчно надеждно и шумно, така че резултатът да достигне до всички – и да се знае, че това е било инцидент, а не някаква тенденция или закономерност, която трябва да продължи.

В крайна сметка това е важен основополагащ принцип в дигиталния свят, с който всички трябва да свикнат: личното пространство и собственото пространство не е обща собственост.

Дори и да си публикувал някаква обща снимка със семейството си и тя да е общодостъпна, това не означава, че всеки може да прави всичко с нея. Както знаете, в самите платформи много пъти авторските права на различни видове творци биват защитавани ревниво. И да кажем, ако човек си прави собствено клипче, а отзад звучи музика, утре ще ви свалят клипчето за нарушение на авторски права – без въобще да е имало някаква умисъл от ваша страна.

Нека така да бъде и от обратната страна – и те да уважават най-малките, най-слабите ползватели на тези платформи, тоест обикновените потребители.

Колко сериозен е рискът от т.нар. дигитално профилиране – моделиране на нашето поведение, навици, психология – чрез такива данни?

Лошото е, че всичко това е в ход – от години профилирането е масова практика.

Коварството е, че ние дори не знаем, че на базата на това небрежно цъкане на бисквитки – което е досадно за много хора – съдействаме за изпускането на профили. В много от случаите това може да бъде и предпочитано, защото филтрира рекламите. Потребителите могат да получават реклами за области, от които се интересуват. Но важи и обратното – много хора не искат да бъдат профилирани и не искат техните данни да се използват по някакъв преднамерен, организиран начин.

В крайна сметка има една изначална потребителска логика.

Ако имам нужда от нов телевизор, аз решавам, че искам нов телевизор. Аз отивам на пазар, избирам, сравнявам модели, търся изгодни оферти, интересувам се и т.н.

Профилирането се опитва да направи една крачка повече – и да се опита по някакъв начин, чрез психологически техники, да ми внуши, че имам нужда от нов телевизор. На базата на някакъв алгоритъм, който е сметнал, че телевизорът ми е стар или малък, започва едно бомбардиране на тема „имаш нужда от нов телевизор“. Това ми се струва неприемливо за голяма част от нас.

В крайна сметка какво по-справедливо има от възможността потребителят да избира? Ако иска, ще си даде данните, ще разреши да го профилират. Въпросът е да знае. Ако не иска, няма да даде съгласие и точка. В масовия случай ние не знаем какво се случва с нашите данни.

Каква развръзка очаквате по този казус? Подали сте сигнали.

Очаквам положително развитие за потребителите и регулаторните органи да наложат санкции и някакъв вид корекция, доколкото е постижима – и в крайна сметка да се разбере, че така не бива.

Интервю на Констанца Илиева