Навлизаме в нова дигитална реалност на сблъсък между изкуствени интелекти

Социалната мрежа Instagram потвърди преди дни отстраняването на критична уязвимост в системата си за сигурност. По данни на компанията хакери са успели да манипулират AI системата за поддръжка на платформата, което е довело до неоторизиран достъп до потребителски профили.  Инцидентът поражда въпроси относно сигурността и надеждността на автоматизираните решения, които все по-често се използват за управление и защита на онлайн услуги.

"Говорим за една нова фаза, в която хакерите се опитват да подведат самия изкуствен интелект, който трябва да ни пази. Атаките вече не са само срещу системите, а срещу самите решения, които всеки един от нас взема в днешно време. Когато изкуственият интелект получи право да променя достъпа, да участва във верификации или да подпомага процеса по възстановяване на профили, той вече не е само чат бот, а част от сигурността. Изкуственият интелект може да бъде щит, но ако го оставим без контрол може да стане врата, през която влиза всяка една кибератака. Ако дадем повече контрол на изкуствения интелект и автоматизираните бот системи без контрол, ще получим скорост без сигурност. В дигиталната среда скоростта без проверка е подарък за кибер престъпностите" - каза за Радио Стара Загора проф. Илин Савов, международен експерт по киберсигурност и киберпревенция.

И напомни, че дигиталната грамотност вече не е лукс, а критична необходимост за всеки.  

По думите на кибер експерта много от компаниите в днешно време разчитат на автоматизираните системи да навигират процесите по управление на профила ни в различни платформи и на нашите лични данни. Трудно обаче могат да възстановяват атакувани профили, защото често системата не може да различи истинския собственик от атакуващия. "Самата Meta обработва милиарди акаунти и огромна част от процесите са автоматизирани. Представете си милиарди молби за помощ в дигиталния свят, затова възстановяването често минава през автоматични проверки, а не през реален служител. Изкуствен интелект започва да заблуждава изкуствен интелект. И тук се появява критичния риск профилът да бъде заключен завинаги.  Алгоритми взимат решения, чатботове комуникират вместо хора, машини анализират поведения, а самите кибер престъпници използват скоростта на изкуствения интелект по-бързо от обществото. Но има и нещо, което  машината все още не може да замени: човешката преценка, критичното мислене, моралът и отговорността. Затова трябва да пазим човекът в центъра на възможните решения" - каза още проф. Савов.

Война на изкуствени интелекти, превенция и полезни навременни действия - каква е реалната дигитална картина чуйте в прикачения звуков файл.