УНИЦЕФ: Злоупотребата с дийпфейк е реална злоупотреба

Детският фонд на ООН изрази безпокойство от злоупотреба с изображения на деца, генерирани с изкуствен интелект. Посочва се проучване УНИЦЕФ, ЕКПАТ и ИНТЕРПОЛ, според което в 11 държави над 1 200 000 хиляди деца съобщават, че техни изображения са били манипулирани и използвани в сексуални дийпфейкове, създадени или манипулирани с изкуствен интелект. Възходът на тези мощни инструменти за генериране на изображения чрез изкуствен интелект, напълно трансформира рисковете в областта на закрилата на детето, обясни Любомир Крилчев, координатор програма "Закрила на детето - Насилие над деца и достъп до правосъдие" в УНИЦЕФ в България.

"Само до преди по-малко от пет години тези генеративни модели бяха собственост на частни компании. Искаха много специализирана мощ и експертиза. Днес тези модели са буквално в джобовете ни, в телефоните на всеки един от нас и с отворен код и значително улесняват извършването на такъв тип действие- създаването на такова сексуално съдържание. Много притеснително е, че в тези 11 държави, в които е проведено проучването, голяма част от децата, вече споменахме като абсолютен брой са засегнати, но 2/3 от тях споделят, че се тревожат, че може да се случи с тях. Представете си каква тревожност е в едно дете непрекъснато да разсъждава по въпроса доколко то може да бъде жертва на такъв тип злоупотреба."

Според Любомир Крилчев ситуация е безпрецедентна и ни поставя пред нови предизвикателства, най-вече по отношение на превенцията, образованието и правната уредба.

"УНИЦЕФ в самото си изследване и становище казва, че тези усилия за превенция, които досега сме имали, не работят, тъй като рисковете са вече различни. Ето защо се акцентира върху пет ключови неща, върху които трябва да държим фокуса. На първо място, родителите и лицата, които полагат грижи за децата, трябва да разполагат с необходимите знания и капацитет да подкрепят тези засегнати деца. Училищата, учителите са на първа линия. Те трябва да обучават учениците първо за тези рискове, свързани с изкуствен интелект, фокус сега е дийпфейкът и да насърчават подаването на сигнали за вредно поведение, както и да обучават съответните учители да реагират адекватно."

Нужно е и специалисти по психично здраве да признаят специфичните психологически последици от едно такова въздействие спрямо детето, както и да разполагат с инструментариум, за да работят с жертви на такъв тип престъпления. Националното законодателство също трябва да бъде актуализирано и прилагано в съответствие с тези дигитални нови предизвикателства.

"Това включва гарантиране, че дефиницията за сексуална злоупотреба и експлоатация на деца  обхваща и тези материали, генерирани от изкуствен интелект. Не на последно място по важност, държавите следва да изискват от компаниите, които произвеждат тези модели, проверка и надлежно спазване на правата на детето. Сериозни са очакванията към тях да правят така своите модели, че да не позволяват злоупотребата с деца и въобще излагането на деца на такъв тип съдържание."

Любомир Крилчев обърна внимание и на дебата за използването на социалните мрежи от деца. По думите му,  не може автоматизирано да се налага забрана, защото интернет платформите носят не само риск от злоупотреби, но и ползи, а така децата ще бъдат лишени и от достъп до информация и подкрепа. Важно е децата да са подготвени за опасностите и ползите в дигиталния свят, затова по-скоро трябва да има ограничение по отношение на съдържанието, до което да могат да достигат децата, то да е съобразено с възрастта им.

Любомир Крилчев коментира и положението на децата, които по някаква причина са поставени в конфликт със закона. УНИЦЕФ инициира мащабно проучване, резултатите от което  се очаква да бъдат обявени. По думите му през последните пет години детската престъпност намалява със сериозни темпове, но системите продължават да се държат все едно се увеличава. Законът за борба с противообществените прояви на малолетни и непълнолетни е от 1958 години и е критикуван международни и национални организации, затова е необходима спешна реформа в детското правосъдие. Освен това у нас липсват специализирани услуги, които да обхващат тези деца.

"УНИЦЕФ в партньорство с неправителствения сектор, държавата и общините преди десетина години пилотира и в момента налага така наречения модел "Зона ЗаКрила" за деца жертва на насилие, а през последните две години се развива моделът "Зона ЗаКрила плюс", който да обхване нуждите на деца, които са в конфликт със закона. Ние разглеждаме тези деца като жертви и едновременно като извършители.

За да изпаднат в конфликт със закона, тези деца са били жертва на неглижиране или някаква форма на злоупотреба. 

"Голяма част от тези деца се настаняват в остарели институции- социално-педагогически интернати, но все повече попадат в така наречените "резидентни услуги"- центрове за настаняване от семеен тип, кризисни центрове. Това ги смесва с другата категория деца, които са жертва или лишени от родителски грижи. Понякога работещите в този тип услуги не разполагат нито с инструментариума, нито с познанията, нито с други услуги от дневен тип, психолози на съответното място или специализирани услуги за борба със зависимости или услуги, свързани с психичното здраве и не могат да отговорят реално на нуждите на децата, които са в конфликт със закона."