UNICEF с тревожен сигнал за реална злоупотреба с deep fake срещу деца

На 10 февруари страната ни отбеляза Международния ден за безопасен интернет, а малко преди това Националният център за безопасен интернет представи основните резултати от образователната и консултативната си дейност за изминалата година.

Резултатите са това, с какво се сблъскват деца, родители и учители и за какво търсят помощ, показват нарастваща активност на родителите в търсене на подкрепа и продължаваща борба срещу онлайн тормоза и сексуалната експлоатация.
С тези два проблема има връзка и публикуваната позиция на UNICEF, която буди тревога.

Докато преди пет години говорихме у нас за навлизането на изкуствения интелект като уникална иновация в бъдеще време, не знаехме, че пет години по-късно това ще е част от ежедневието ни. От началото на тази година официално Министерството на образованието и науката предлага въвеждането на AI в учебния процес. Както всичко друго, и изкуственият интелект си има светла и тъмна страна.
UNICEF излезе с тревожен сигнал за реална злоупотреба с deep fake срещу деца.

“Deep fake са най-често изображения, видеа, аудио, които са създадени или манипулирани с някакъв инструмент, който борави с изкуствен интелект, така че да изглеждат истински и реални“, казва Любомир Крилчев - координатор програми "Закрила от насилие и достъп до правосъдие" в UNICEF - България.

По думите му изследването на UNICEF, което е направено съвместно с Интерпол и обхваща 11 държави по света, показва, че 1.2 млн. деца в тези държави са станали жертва на deep fake с тяхно изображение, чиято цел е сексуална злоупотреба и експлоатация.

Според UNICEF такъв тип изображения и материали трябва да бъдат регулирани от всички национални законодателства, тъй като проблемът не е само поотношение на жертвата, която търси справедливост, обещетение и наказание от извършителите, но дори и тези изображения, които не касаят определен човек, могат да доведат до по-голяма консумация на такъв тип съдържание и като цяло поощряват консумацията на такъв тип съдържание от педофили и педофилски мрежи.

Освен това, според проучването две трети от децата в тези държави изпитват тревожност, че могат да станат жертва на такава злоупотреба, което е сериозен показател, че това влияе върху психиката на децата.

"Нашите застъпнически послания към държавите и към институциите са в няколко посоки - това са и възможните решения, как да преодолеем този проблем. Първо, нужно е законодателство, което да признае, че това съдържание е наказуемо. Второ, сериозна работа със самите платформи, които поддържат ИИ - те да създадат собствени филтри, така че когато се зададе промпт от някой, който иска да съблече дадена снимка, това ИИ да не му позволява", обяснява той.

Необходимо е също така сериозна работа със социалните работници, психолози, учители, които работят с деца, станали жертва на такова насилие, както и с родителите, защото често родителите не са наясно колко бързо се развива света и какви са проблемите и притесненията на децата.

Чуйте повече в разговора на Гергана Пейкова в звуковия файл.