В много случаи става дума за съдържание със сексуален характер, при което лица на реални хора се поставят върху чужди тела без тяхното съгласие. Експерти и организации предупреждават, че жертви най-често са жени и непълнолетни.

Такъв е случаят на Софи Париш от Северна Англия. През 2022 г. тя открива в интернет фалшиви голи изображения със своето лице, създадени чрез използване на нейни снимки от социалните мрежи. Съдържанието бързо се разпространява онлайн и води до унизителни реакции.

В началото институционалната реакция е ограничена. По това време подобни действия не са ясно уредени в законодателството, а част от платформите отказват да премахнат съдържанието, тъй като то не се счита за „реално“.

Случаят с белгийската престолонаследница, принцеса Елизабет, също показва, че подобни практики могат да засегнат както частни лица, така и публични фигури. В социалните мрежи беше разпространено видео, създадено с изкуствен интелект, което използва нейния образ.

С нарастването на подобни случаи, държави като Великобритания започват да въвеждат по-строги правила. Законодателни промени предвиждат наказания за създаване и разпространение на интимни изображения без съгласие, включително когато са генерирани с изкуствен интелект.

Проблемът обаче остава глобален. Международни организации, включително УНИЦЕФ, предупреждават, че онлайн насилието срещу деца, включително чрез манипулирано съдържание, се разраства с развитието на технологиите.

Юристи отбелязват, че в редица държави вече съществуват механизми за премахване на подобно съдържание и за установяване на извършителите. Процедурите обаче често са бавни и изискват активни действия от страна на пострадалите.

Основният проблем остава достъпността на технологиите. Създаването на убедителни дийпфейкове вече може да се извършва с широко достъпни онлайн инструменти, без необходимост от специализирани умения.

Така дийпфейковете се превръщат в нова форма на дигитално насилие – такава, която не оставя физически следи, но може да има сериозни психологически и социални последици. И поставя въпроса дали законите и платформите могат да отговорят достатъчно бързо на този тип злоупотреби.