ЕК, "Грок" и борбата за безопасен изкуствен интелект

3 милиона изображения със сексуално съдържание, генерирани от модела за изкуствен интелект "Грок", включително 23 хиляди които включват деца и то само за 11 дни. Тези данни бяха обявени през януари от Центъра за борба с дигиталната омраза. Според изследователите "Грок" се е "превърнал в машина от индустриален мащаб за създаването на материали за сексуален тормоз", които след това се публикуват в социалната мрежа "Екс". 

Реакцията на Европейската комисия беше да започне разследване заради манипулираните изображения със сексуално съдържание, както и за управление на риска във връзка със системите за препоръчване на "Екс". 

Адекватни ли са действията на Европейския съюз и колко голямо предизвикателство е регулирането на дигиталните платформи и изкуствения интелект - можете да разберете в интервюто на Мария Петрова с Никола Миладинов от представителството на Европейската комисия в България и с анализатора на данни Никола Тулечки.

Възмущение, гняв, но и активно използване бяха резултатите от функционалността на "Грок", която позволи на потребителите да качват снимки на знаменитости или непознати хора, да ги съблекат дигитално и да ги поставят в провокативни пози. Изображенията след това бяха публикувани в "Екс". Предоставените от "Грок" опции за сексуално съдържание обаче доведоха до започналото на 26 януари разследване на Европейската комисия.

"Европейската комисия започна формално разследване срещу голямата онлайн платформа "Екс", защото през последните седмици и месеци наблюдаваме антисистемно съдържание, дип фейкове на жени и материали за сексуално насилие над деца. Това е незаконно, неприемливо, отвратително. Принципът на европейските регулации е, че това, което е незаконно офлайн, трябва да е незаконно и онлайн, т.е. нашите граждани имат право на защита на личните данни и на човешките им права не само във физическото пространство, но и в интернет пространството.

И затова поискахме от компанията "Екс" подробно обяснение относно нейното приложение за изкуствен интелект "Грок" и в момента оценяваме техния отговор и това дали компанията е взела адекватни мерки срещу рисковете, свързани с внедряването на функционалностите на "Грок" в социалната мрежа "Екс" на територията на Европейския съюз. Това включва рискове, свързани с разпространението на незаконно съдържание като манипулирани сексуални експлицитни изображения, включително съдържание, което може да се квалифицира като материали за сексуално насилие над деца.

Наредихме на "Екс" да запазят до края на 2026 година всички вътрешни документи и данни, свързани с функциите на "Грок", така че в случая европейската комисия действа в ролята си на регулатор съгласно законодателството на Европейския съюз, което защитава правата на европейските потребители онлайн, а именно Актът за цифровите услуги. Този закон много ясно постановява, че никоя интернет компания не бива да печели пари чрез събличане на жени без тяхно съгласие или чрез нарушаване правата на децата.

И Европейската комисия ще продължи да събира доказателства, например чрез изпращането на допълнителни заявки за информация, провеждане на интервюта или инспекции и може да наложи временни мерки при липса на значими корекции на услугата от страна на "Екс", обясни Никола Миладинов, съветник "Преса и медии" в представителството на Европейската комисия в България.

По-рано през януари британският орган за медиен надзор Офком също обяви, че започва собствено разследване за създаването на незаконно съдържание в "Екс". Критики бяха отправени към Европейската комисия за това, че прекалено бавно прилага Акта за цифровите услуги, особено по отношение на "Екс".

"Разследването идва прекалено късно, но все още може да изпрати ясен сигнал, че платформите трябва да се съобразяват с европейските закони", заяви германският евродепутат от групата на Зелените Александра Геезе. Според нея "щетите, нанесени на милиони жени и на много деца, са непоправими", но Еврокомисията може да използва това като обучителен момент, така че да действа по-бързо в бъдеще.

Други представители на европейските институции обаче отхвърлят подобни критични мнения и обръщат внимание, че има 15 разследвания, които се водят срещу много големите онлайн платформи и търсачки съгласно Акта за цифровите услуги, който е в сила за компаниите от февруари 2024 г.

"От влизането в сила на Акта за цифровите услуги Европейската комисия не се е поколебала да започне производства, предписания или процедури на различен етап за искане на информация срещу много от големите онлайн платформи, като имам предвид големи онлайн платформи, само да уточня, че по силата на европейското законодателство това са платформите или търсачките са с над 45 милиона потребители в Европейския съюз. От самото начало с летящ старт започнахме да работим по досиета не само относно "Екс", но и "Мета", "ТикТок", "Тему", "Али Експрес", "Гугъл", "Епъл" и други.

Конкретно относно платформата "Екс" нека да припомня, че Европейската комисия веднага предприе действие и започнахме разследване още през декември 2023 година относно това дали "Екс" спазва задълженията си за управление на рисковете в системите си за препоръчване на съдържание. Само преди две седмици разширихме това разследване, защото "Екс" обяви, че изкуственият интелект "Грок" ще управлява системата му за препоръчване на съдържание.

Освен това на 5 декември миналата година Комисията наложи първата глоба съгласно Акта за цифровите услуги на стойност от 120 милиона евро на "Екс" по друг въпрос - за нарушаване на задълженията му за прозрачност. Неспазването на решението за несъответствие може да доведе до периодични наказателни плащания освен тази глоба. Както виждате, действаме своевременно.

Въпреки това следва да отбележим, че нашата цел не е непременно да се стигне до глоба. Всички решения за прилагане, които може да се наложи да вземем напълно уважават правата за защита на заинтересованите страни и винаги подлежат на независим съдебен контрол. Точно поради това, ако компаниите взаимодействат конструктивно с Европейската комисия и предложат солидни ангажименти, ние ги приемаме. Такъв беше наскоро случая със "ТикТок", която се съобрази с нашите предписания по едно от производствата и всъщност само ако големите онлайн платформи откажат да вземат мерки за защита на европейските потребители, тогава Европейската комисия предприема санкциониращи действия. Наистина това отнема малко повече време", обясни Никола Миладинов.

От своя страна, експертът по анализ на данни Никола Тулечки отбеляза като положителни действията на Европейската комисия.

"Аз се чувствам доста късметлия, че съм гражданин на Европейския съюз и че тези технологии, за които говорим, в Европа се взимат много на сериозно. Рисковете, които те имат или поставят за обществото, се взимат толкова насериозно и се предприемат някакви мерки. Нямам силно мнение дали са навременни или дали трябва по-бързо, но самият факт, че се обръща внимание на тези неща на централно ниво и то на толкова прецизни неща като дизайна на приложенията, които създават зависимости и прозрачността за реклами, и достъпа до данни за учени, които са трите точки, за които върви въпросната проверка е доста прогресивно. За мен е правилната посока, за да избегнем рисковете, които технологиите предоставят за обществото.

Целта не е да се налагат глоби. Нали има даже един такъв наратив, че всъщност това е някакъв механизъм, по който едва ли не да събира незаконен вторичен данък Комисията. Не е това е идеята. Идеята е да се управлява риска и да се пазят гражданите на Европа от опасностите, които новите технологии имат и на които се излагат гражданите примерно на влошаване на психичното здраве, влошаване на вниманието при децата.

Има едно цяло поколение, което израсна с тези технологии. Имаме доста наблюдения и твърди данни, които казват, че особено за подрастващите, за тийнейджърите са пагубни. И те на това се базират -дизайнът, който води до зависимости на "ТикТок". Те самите "ТикТок" имат данни за това как хората ги ползват по цяла нощ и как прекарват много, много, много часове на приложението, което е неприемливо", смята анализаторът. 

Тулечки обясни още за причините "Грок" да се окаже обект на разследване.

"Грок" малко заради особеностите на собственика на платформата "Екс" Илон Мъск е по-различен от останалите големи езикови модели, които могат да генерират картинки, защото той не е подравнен. Т.е. всеки изкуствен интелект също може да генерира, каквото му кажем, но останалите са подравнени, т.е. вторично има един процес, който ги спира да генерират експлицитни, насилие, пропаганда, расизъм и такива неща. Заради политическите виждания на Мъск "Грок" няма такива спирания, такова подравняване, такива спирачки и съответно хората го използват за генериране на порнография, включване на порнография с деца, което е абсолютно неприемливо, по мое мнение, и трябва да бъде спряно. И трябва да бъде по някакъв начин управлявано, защото сега е изключително лесно, даже е безплатно. На базата на всяка снимка може да генерира порнографско съдържание. Имаше числа - те публикуват за какво се ползва, и всъщност огромна част от използването на модела е точно за генерание на такова съдържание, т.е. хората масово го ползват за това", разказа Тулечки. 

Лингвистът и експерт по извличане на данни посочи, че новите технологии са нещо, с което както европейските регулации, така и всички ние като хора ще трябва да се научим да боравим ефективно и безопасно.

"Ние създаваме толкова мощна и всесилна технология, че ние не знаем тя докъде ще доведе. Особностите на тази технология, особено сега са изкуствените интелекти, платформите за социалните мрежи, които свързват всеки, рискове има и затова подходът на Европейския съюз е много здравословен. Той не забранява технологията като цяло, а слага един подход, базиран на риска.

Първо, каквото и да правим, трябва да преценим какви са рисковете и с изкуствения интелект примерно това е много просто. Ако го използваме в някаква сфера, в която примерно да генерираме поезия, няма никакъв риск. Ако някой реши да го използва, за да дава присъди, което е примерът на Закона за изкуствен интелект, ако се използва изкуствен интелект, за да дава присъди в съда, това е неприемливо, защото крие огромни рискове, защото технологията е непрозрачна и не трябва да се случва. Подходът на Европейския съюз е точно това - да се преценява първо какъв е рискът от конкретната употреба на конкретната технология в конкретния  контекст. И за мен това е доста прогресивно и е правилната насока.

Трябва да си даваме сметка колко бързо напредва технологията. Представете си 2020 година колко скоро беше и въобще не мислехме, че сега ще го водим този разговор и за тези технологии. Да си представим една проекция след пет-десет години колко ще е напредвала и да внимаваме много какво е крие тя", предупреди Никола Тулечки.

В същото време от Европейската комисия подчертават, че дори близостта на милиардера Илон Мъск с Белия дом няма да попречи на разследването в Европа:

"Регулаторните решения на Европейската комисия съгласно цифровото ни законодателство нямат нищо общо с други политически или икономически отношения със Съединените американски щати. По въпросите на търговията Съединените щати продължават да бъдат стратегически партньор на нашия съюз. Както с всички други партньори ние активно работим в области, където имаме общи интереси.

Колкото до Акта за цифровите услуги и Акта за цифровите пазари, това са закони, които целят да има прозрачност, равнопоставеност между фирмите на пазара и защитата на европейските граждани, които са потребители на тези цифрови услуги. Тези правила се прилагат еднакво към всички големи дигитални компании, опериращи на единния пазар на Европейския съюз, независимо от тяхното място на регистрация или от техните контролиращи акционери. И нашите регулации обхващат също и неамерикански компании.

Винаги сме прилагали и ще продължим да прилагаме нашите закони справедливо и без дискриминация към всички компании, опериращи в Европейския съюз.

Освен това нашите цифрови регулации се прилагат изключително и само на територията на Европейския съюз, т.е. те нямат екстратериториална юрисдикция, нито в Съединените щати, нито в която и да е друга, неевропейска държава", каза Никола Миладинов от представителството на Европейската комисия в България.

Междувременно Никола Тулечки е категоричен, че Европа е едно от най-безопасните места в света, що се отнася до съвременните информационни технологии.

"Пример от нещо друго, което е забранено в Европа, е създаването на системи, базирани на биометрика и лицево разпознаване, което е забранено в Европейския съюз. С изключение на служби за национална сигурност в Европейския съюз е забранено. В Иран в момента вече работи система, в която, ако някое момиче се разхожда без забрадка, и се появи на някой от камерите в града, автоматично получава есемес и съобщение в някакво приложение защо не е със забрадка. Един конкретен пример за такава дистопична технология, която вече се прилага на други места", каза експертът по анализ на данни Никола Тулечки.

Авторски права на снимката с Никола Миладинов: Личен архив.

Авторски права на снимката с Никола Тулечки: Личен архив.

Авторски права на останалите снимки в публикацията: Pexels, за свободно ползване.