Новост ли е компютърната сигурност, базирана на "агенти"?

Регулациите ясно показват, че трябва да се добавят други програми с изкуствен интелект (ИИ/AI) - сега популярни като "агенти", въпреки че идеята изобщо не е нова, но като организация вече е факт и е общодостъпна и широко популярна - и те сами да управляват нивото на сигурност. Т.е. ще имаме вече едно ново ниво на компютърна сигурност, което ще бъде базирано на "агенти", и от едната страна ще имаме атакуващи, а от другата - защитаващи. Ще наблюдаваме състезание, което и в момента се случва.

Това каза пред БНР доц. Златогор Минчев, експерт по киберсигурност на БАН. Повод за коментара му стана съобщението на компанията OpenAI, че автономен агент, задвижван от нейни най-нови модели с изкуствен интелект, е излязъл извън контролираната среда по време на тест за сигурност и е извършил хакерска атака срещу инфраструктурата на платформата Hugging Face.

Според доц. Минчев става дума за човешка грешка и ПР трик:

"Поне към момента се надяваме, че е така, защото в противен случай трябва да приемем, че вече имаме дигитални псевдо съзнателни решения и тогава трудно ще им противодействаме".

Интервюто на Снежана Иванова със Златогор Минчев в предаването "Хоризонт за вас" можете да чуете от звуковия файл.