От измами до терапия: двойното лице на deepfake

В предаването "Време за наука" ви срещнахме Хелиана Велинова в рубриката "ПопитAI алгоритмите" по тема, която все по-силно тревожи обществото – феноменът deepfake. Разговорът обхваща произхода на понятието, рисковете от злоупотреба, както и възможните му приложения и бъдещо развитие.

В предаването Велинова обяснява, че най-подходящият превод на "deepfake" на български е "дълбока фалшификация". По думите ѝ терминът започва да се използва през 2017 г., когато в платформата Reddit се появява акаунт с името Deepfake. Той разпространява нецензурирано съдържание, в което лицата на актриси са заменени с тези на известни личности чрез свободен софтуер с отворен код. Именно достъпността на този софтуер води до бързото разпространение на технологията.

Велинова подчертава, че първите жертви са жените, а впоследствие технологията навлиза и в политиката, където също се използва с манипулативни цели.

Тя определя това като един от най-неетичните и вредни начини за използване на deepfake. В същото време отбелязва, че хората започват постепенно да развиват известни съмнения към подобно съдържание. Човешкият мозък е свикнал да разпознава реални изображения, но с развитието на технологиите разликата между истинско и изкуствено става все по-трудна за улавяне.

Според нея именно тук се появява нуждата от развитие на критично мислене във всички възрастови групи. Тя посочва, че през 2020 г. подобно съдържание е било около 70 000 публикации, докато към 2026 г. вече се измерва в милиони. Положителен знак е, че платформите започват да обозначават съдържание, създадено с изкуствен интелект, но потребителите също трябва активно да го разпознават и докладват.

Велинова обръща внимание, че в социалните мрежи – особено в Instagram – се разпространява огромно количество изкуствено генерирано съдържание, което често е абсурдно, но въпреки това хората го възприемат като реално.

Тя подчертава и друг сериозен проблем – загубата на доверие. Хората започват да не вярват на нищо, особено на фона на нарастващото използване на AI гласови ботове. Според изследване с 529 участници, в около 75% от случаите потребителите разпознават, че гласът не е човешки, което означава, че в останалите случаи измамата остава незабелязана. Съществуват и технологии, които позволяват клониране на глас, правейки разликата почти неуловима.

Като пример за злоупотреба тя посочва случай, при който служител превежда около 25 милиона, след като участва във видеовръзка с човек, представящ се за неговия ръководител – всъщност deepfake.

По отношение на регулациите Велинова отбелязва, че те неизбежно изостават спрямо технологиите. Съществува дилема – прекаленото регулиране може да забави развитието. В Европейския съюз се правят опити за въвеждане на правила, докато в други държави подходите са различни.

Като пример тя дава Китай, където се разработват закони за ограничаване на дигиталните копия и защита на децата. Там вече се използват дигитални аватари, а един от случаите, който я впечатлява, е свързан с възрастна жена със здравословни проблеми, чийто починал син е "възстановен" чрез deepfake. В продължение на месеци тя води разговори с дигиталното му копие.

Според Велинова това показва, че технологията може да има и терапевтични приложения, например при справяне със загуба. Тя прави паралел с използването на виртуална реалност в психологията и допуска, че deepfake може да помогне на хората да се сбогуват с близки, когато не са имали тази възможност.

В същото време предупреждава, че без правилно управление подобни приложения могат да доведат до негативни последици. Подчертава и липсата на достатъчна защита срещу създаването на дигитални копия без съгласие, особено при известни личности.

Чуйте разговора на Василена Мирчева с Хелиана Велинова във "Време за наука".