Рискуваме ли киберсигурността си заради ИИ надпреварата

Ако ние допуснем система, чужда собственост, която не е съвсем ясно и за нас самите как работи, какви заплахи може така да постави на наше внимание, а я допуснем до най-чувствителната си кореспонденция, до собствената си електронна поща, до всички системи на нашия компютър, уж за да ни улесни живота, разбира се, че ние ще приемем риск, който риск, с акта си на действие, пренася отговорността на нашите плещи. Понякога аз самият се ограничавам. Приемам отговорността, че малко повече време ще ми отнеме да си напиша мейлите, вместо да оставя изкуствен интелект с достъп до електронните ми поща да ми и пише. Приемам, че ще допускам и правописни грешки и така нататък, но прием че съм намалил собствения си риск. Това е и въпрос на лична отговорност.

Това каза за БНР киберекспертът и председател на иновационния хъб "Тракия" Християн Даскалов в коментар за рисковете от навлизащия във всички сфери изкуствен интелект. Киберсигурността е сред основните рискове, подчерта той:

"Google обявява днес, че техният модел Gemini е прескочил тези граници, тази защитена среда на 3 пъти и е осъществил нерегламентиран достъп до реални компании. Всъщност, целта на модела е била да реализира хакване, само че разбира се, в защитена среда, тоест със системи, до които достъпът е контролиран, вътрешни системи. Целта на тези тренировки са, разбира се, е моделът да придобие способности, които да бъдат използвани за защита. Трябва да знаеш какво прави нападателят, за да знаеш как да осъществиш защитни действия. Но, тук има голямо "но", ако определени граници бъдат премахнати, ако определени защити не бъдат приложени по правилния начин, въпросните етични норми могат да бъдат свалени и съответно тези модели да извършват и атакуващи, офанзивни кибероперации. Това е една от големите заплахи, защото защитата на критичната инфраструктура до този момент е била поверена на най-добрите в света компании и експерти, а утре с помощта на такъв модел, всеки нападател може да се причисли към отбора на най-добрите и да ги постави пред голям тест и предизвикателство".

Преди излизането на пазара на акции, от Anthriopic се опитват да регулират и очакванията на инвеститорите с послание да не очакват нещо революционно всеки месец, тъй като, ако се случва твърде бързо, то може да бъде и драматична заплаха, допълни Даскалов пред "Хоризонт":

"От друга страна, това е и призив да запазим разумен подход към въобще софтуерното инженерство, тъй като там има принципи на сигурната софтуерна разработка, които предполагат значително тестване преди в продукционна среда да излезе какъвто и да било продукт. А тук, ако ти инвестираш необходимото време във въпросните тестове, които показват, някои от тях, че нещата могат да се развият по непредвидени и драматични начини, а конкурентът не го направи и изкара по-нова версия на своя продукт по-силна, тогава ти губиш пазарен дял. Губиш стойност на компанията си и респективно те се опитват. На практика това, което искат да постигнат е малко по-силна и разумна регулация, която да доведе до това да се спазва здравия разум при софтуерната разработка - нещо, което би трябвало по подразбиране да се случва, но истината е, че темповете на развитие и очакванията на пазарите са такива, че в действителност благоразумието отстъпва понякога и това причинява рисковете. Самата технология не е чудовищно опасна по-различно от много други сфери на достиженията на съвременното инженерство.

"Никой не очаква, че утре ще се построи мост за една вечер, той ще бъде сигурен и по него ще преминат милиони на следващата седмица. Това обаче се очаква, че ще се с която и да било технология в Изкуствения интелект - че нещо утре ще се случи, което драматично да промени сценария на нашия живот и това води до бързане"

Безспорно са основателни притесненията, че каквото и да е забавяне под регулаторен натиск за западните компании ще е от полза на Китай, каза Даскалов за "Събота 150". Това прави предизвикателството за регулиране още по-сложно. Той обаче вярва че има и друг подход. Експертът припомни че центърът за фундаментални изследвания в ядрената физика ЦЕРН е създаден в епохата на Студената война, когато САЩ, ЕС и СССР са били конкуренти в сферата на ядрената енергетика.

"Едно коопериране всъщност - трети път, а не непременно несподеляне или някаква свръхрегулация от една страна за сметка на свръхразвития от другата - може да доведе до невероятни постижения за човечеството".