Проблемът на ИИ и цифровите канали е, че са 24/7 и те търсят

Големият проблем на изкуствения интелект (ИИ) и цифровите канали е, че са 24/7 и те ви търсят, не вие тях и те ви вмъкват в заблудата и грешката незабавно, предупреди в интервю пред БНР Ясен Танев, експерт по киберсигурност и председател на Българската асоциация по развитие на бизнес софтуер.

"И ако сте емоционален и усещате, че това е перфектното за вас предложение, и ако усещате, че трябва да решите веднага, това е капан. Преди това работеше добре, сега във времето на технологиите на ИИ работи още по-добре", допълни киберекспертът.

В "Хоризонт до обед" той коментира безпрецедентна атака на дигитална банка, довела до изтичане на информация и обясни подробно процеса за източване на данните.

Ясен Танев отговори и на въпроса - какви са рисковете за личните данни на фона на притеснения от вълна от фишинг имейли:

"Държавата има основна роля да и й вярваме. Грешка на тази дигитална банка е, че не са задали въпроса – защо кметът на Калабрия изисква информация от името на полицията. Това повдига въпросът - колко са сигурни системите на публичните институции? Има разследване дали е хакнат контрола на потребителски компютър или имаме пробив в системата на сигурно електронно връчване на Италия."

Според него веригата да доверие е сериозно счупена и не бива да вярваме само на един признак, трябва да се поне два.

"Проблемът е, доверието е счупено и е по-добре да се изведе като научено, отколкото други администрации да изпадат в подобни ситуации", обясни Ясен Танев. И посочи, че българската администрация трябва да си зададе въпроса дали е достатъчно да изпращаме комуникация само през системата за сигурно електронно връчване или да е с подписан електронно документ, като в НАП.

Той припомни, че данните на българското население изтекоха през големия пробив на НАП и всички страдаме.

"Интересно е, че за първи път темата за ИИ беше доминираща в ЕС и надскочи дискусиите за екология. Усещаме и осъзнаваме, как се използва ИИ за неравностойно управление на системите за предоставяне а съдържание. Изследваме младите хора по проект, как развиват зависимост от хазарт. Установихме, че има тотална диспропорция, защото корпорации използват ИИ да създават съдържание и да профилират потребители като анализират емоционално им състояние, следят се интереси и емоционални състояния. В посока хазарт корпорациите експлоатират технологията, за да се възползват от човешките емоции. От 1 август т. г. влезе системата за прозрачност и  всеки, който използва ИИ трябва да го маркира. Ако липсва маркерът, докладвайте го. Директивата за лични данни изисква хората да не бъдат машинно профилирани. Всеки трябва да реагира масово срещу злоупотребата на човешките слабости. ИИ е много оплезен, но е много опасен, защото работи 24/7", предупреди Ясен Танев.

Той е категоричен, че към момента "със сигурност хазартът е пандемия, която залива обществото:

"Работата по проекта ни "Рисклаб" показва, че хората са податливи – дигиталната дистанцираност - остават сами и не знаят кой да питат и на кой да вярват. Това се промени преди беше "учени казаха", после - "една жена", след това - "ФБ или гугъл" и сега често получавате отговора - "ИИ ми каза, посъветва" и "ИИ ми е най-добрия приятел". Лесно е да бъде до вас ИИ, когато поискате, но ИИ при емоционална слабост е такъв угаждач, че се превръща в яма на собствените заблуждения, защото той  е такъв какъвто искате."

"Не залагайте живота си на ИИ", съветва Танев.
"Надявам се в сферата на дигиталната трансформация и ИИ революция да търсим новите източници на схеми на доверие, за да продължим да съществуваме интегрирано. Защото, ако никой не вярва на никой, ще живеем трудно, това са човешки отношения. ИИ е еволюционна стъпка и трябва да излезем с нея успешно, а не да си отидем като динозаврите", предупреди киберекспертът.

Цялото интервю с Ясен Танев чуйте от звуковия файл