Използването на ИИ за дийпфейкове и сексуален тормоз (Euranet Plus Factcheck)

В световен мащаб нараства създаването и разпространението на дийпфейкове, установява доклад на екипа за проверка на факти на радиомрежата за новини от Европейския съюз "Евранет плюс". Това са изображения или видеоклипове, генерирани с изкуствен интелект и предназначени да изглеждат така сякаш дадено лице наистина е участвало в тях, казва авторът на доклада Линда Гивташ.

"Дийпфейковете имат силата да влияят върху политическия живот и изборите с грабваща вниманието дезинформация. Освен това данни на Световния икономически форум сочат, че след като вече от години разполагаме с тази технология, най-големите щети, които са били причинени досега, са нарастване на тормоза и социалното инженерство", уточнява Гивташ.

Тя допълва, че основен проблем в целия Европейски съюз, който вече придоби известност, е използването на дийпфейкове със сексуално съдържание, което подхранва онлайн насилието, основано на пола. То в много по-голяма степен е насочено срещу жените и момичетата. Това включва тормоз, накърняване на репутацията и изнудване.

"Всеки може да бъде мишена, като при инцидентите има засегнати както знаменитости, така и обикновени граждани. Наблюдава се увеличаване на случаите сред непълнолетни, както и в училища, като за такива инциденти имат информация от Испания, Белгия и други държави.

"98 процента от всички онлайн видеа с дийпфейкове са направени с порнографски изображения, които не са по взаимно съгласие, често те са наричани дийпфейк голи снимки или фалшиви голи снимки", посочва ООН, позовавайки се на доклад от 2023 г. на платформата за сигурност "Секюрити хиро", която е специализирана в разследването на кражби на самоличност.

Измами, фалшификации и фалшиво представяне на политици и обществени фигури, за да бъдат подмамени потребителите да изпращат пари или да споделят чувствителни данни, също са инциденти, за които има съобщения в целия Европейския съюз, включително в България.

Дийпфейковете циркулират масово в социалните мрежи и приложенията за като "Фейсбук" (Facebook), "УотсАп" (WhatsApp) и "Телеграм" (Telegram).

Инструменти за изкуствен интелект и чатботове като "Грок" на "Екс" дадоха възможност за масовото създаване и споделяне на съдържание с неприлични изображения, което понякога засяга стотици милиони потребители", подчертава Линда Гивташ.

Агенцията на ООН за равенство между половете и овластяване на жените (UN Women) съобщи през февруари, че по-голямата част от съдържанието с дийпфейкове включва сексуални изображения. В същото време "по-малко от половината от всички държави имат закони, които се занимават с тормоз онлайн", още по-малко конкретно със съдържание, генерирано от изкуствен интелект.

"Случаи, които засегнаха лица с голяма популярност, предизвикаха протести и придобиха широко медийно внимание в Европейския съюз. Нараства загрижеността за безопасността на децата, тормоза онлайн, както и подкопаването на доверието в цифровото съдържание.

Един такъв случай е свързан с германската актриса Колиeн Фернандес, която обяви пред медиите, че бившият ѝ съпруг, телевизионният водещ и продуцент Кристиан Улмен, се е представял за нея в онлайн пространството и е споделял дийпфейк изображения със сексуално съдържание с нейния образ.

Това доведе до силна реакция, като не само германският министър на правосъдието Стефани Хубиг предложи нов закон за криминализиране на дийпфейковете, но такова предложение има и в Австрия.

Дори италианският премиер Джорджа Мелони стана жертва на дийпфейк порнографско съдържание, което я накара да заведе дело срещу създателите на фалшивите видеа.

Според доклад на мозъчния тръст "ГлоубълСек", това създава прецедент, при който съществуващите закони за авторското право, личните права и защитата на изображенията могат да се използват за борба срещу тормоза с дийпфейкове. Въпреки това в доклада се подчертава, че са необходими осъвременени закони, за да бъдат по-ефективно предотвратявани и смекчавани вредите от технологиите", разказва авторът на изследването на екипа за проверка на факти на "Евранет плюс" Линда Гивташ.

Нейното проучване сочи, че много държави и юрисдикции вече се опитват да актуализират законите си, за да дадат определения за тези престъпления и да ги ограничат.

"Въпреки че Европейският съюз вече има свой Акт за изкуствения интелект, който осигурява известна защита, блокът допълнително проучва затягане на законовите мерки в отговор на нарастващия брой случаи на злоупотреби чрез използването на генеративен изкуствен интелект.

Миналия месец законодателите в Европейския съюз се споразумяха да включат забрана на използването на изкуствен интелект по отношение на генерирането на сексуално и интимно съдържание, без за това да е дадено съгласие, както и забрана за използването на изкуствен интелект за създаването на материали със сексуално насилие над деца.

ООН обаче отбелязва, че законите сами по себе си не са достатъчни. Засилените законодателни регулации трябва да бъдат подплатени с достатъчно мерки за прилагането им, за да бъдат ефективни, както и е необходимо от платформите да се търси отговорност.

Освен това ООН призова за психологическа подкрепа за хората, преживели подобни инциденти, както и за образоване на обществото, за да се предотврати извършването на тези престъпления, обяснява журналистът Линда Гивташ.