БНР Трафик+

Експерти искат "незабавни промени" за защита от злонамерен ИИ

Експерти искат "незабавни промени" за защита от злонамерен ИИ

СНИМКА: Pixapay

Размер на шрифта

Над 200 изследователи в областта на изкуствения интелект и киберсигурността призоваха във вторник за незабавни мерки, за да се предотвратят по-нататъшни случаи, при които модели на изкуствен интелект излизат извън контрол и представляват риск за критичната инфраструктура, предаде АФП.

В писмото, подписано от изтъкнати личности в областта, сред които лауреатът на Нобелова награда Джефри Хинтън и носителят на наградата "Тюринг" Йошуа Бенгио - и двамата считани за "бащи" на изкуствения интелект – се призовава моделите, свързани с киберсигурността, да бъдат физически изолирани от интернет по време на тестване.

"Ние, долуподписаните учени, твърдим, че са необходими както повече изследвания в областта на безопасността на изкуствения интелект, така и по-голям акцент върху технологиите и процедурите за ограничаване на риска", се казва в писмото.

Водещи американски компании в областта на изкуствения интелект разкриха през последните месеци поредица от инциденти, при които модели в процес на разработка са избягали от ограничителните мерки, за да получат достъп до интернет, и са хакнали уебсайтове, включително като са получили неразрешен достъп до сайтове на австралийското правителство.

"Без незабавни промени в практиките за разработване и внедряване на изкуствен интелект такива инциденти ще продължат да се случват, а бъдещите инциденти ще бъдат далеч по-разрушителни за нашата уязвима критична инфраструктура", предупредиха те.

В писмото си те призовават организациите, които разработват, внедряват и тестват модели на изкуствен интелект с кибервъзможности, да бъдат изолирани – т.е. физически откъснати от интернет – за да се гарантира, че те няма да "избягат".

Освен това се призовава за създаването на международен орган, който да стандартизира най-добрите практики в областта на сигурността.

В писмото се призовава компаниите да бъдат задължени да докладват случаите на пропуски в ограничаването на достъпа пред съответния орган, който ще отговаря за проследяването и регистрирането им.

По публикацията работи: Георги Николов

Последвайте ни и в Google News Showcase, за да научите най-важното от деня!