вторник 13 октомври 2026 13:09
вторник, 13 октомври 2026, 13:09
СНИМКА: Pixapay
Размер на шрифта
Над 200 изследователи в областта на изкуствения интелект и киберсигурността призоваха във вторник за незабавни мерки, за да се предотвратят по-нататъшни случаи, при които модели на изкуствен интелект излизат извън контрол и представляват риск за критичната инфраструктура, предаде АФП.
В писмото, подписано от изтъкнати личности в областта, сред които лауреатът на Нобелова награда Джефри Хинтън и носителят на наградата "Тюринг" Йошуа Бенгио - и двамата считани за "бащи" на изкуствения интелект – се призовава моделите, свързани с киберсигурността, да бъдат физически изолирани от интернет по време на тестване.
"Ние, долуподписаните учени, твърдим, че са необходими както повече изследвания в областта на безопасността на изкуствения интелект, така и по-голям акцент върху технологиите и процедурите за ограничаване на риска", се казва в писмото.
Водещи американски компании в областта на изкуствения интелект разкриха през последните месеци поредица от инциденти, при които модели в процес на разработка са избягали от ограничителните мерки, за да получат достъп до интернет, и са хакнали уебсайтове, включително като са получили неразрешен достъп до сайтове на австралийското правителство.
"Без незабавни промени в практиките за разработване и внедряване на изкуствен интелект такива инциденти ще продължат да се случват, а бъдещите инциденти ще бъдат далеч по-разрушителни за нашата уязвима критична инфраструктура", предупредиха те.
В писмото си те призовават организациите, които разработват, внедряват и тестват модели на изкуствен интелект с кибервъзможности, да бъдат изолирани – т.е. физически откъснати от интернет – за да се гарантира, че те няма да "избягат".
Освен това се призовава за създаването на международен орган, който да стандартизира най-добрите практики в областта на сигурността.
В писмото се призовава компаниите да бъдат задължени да докладват случаите на пропуски в ограничаването на достъпа пред съответния орган, който ще отговаря за проследяването и регистрирането им.
По публикацията работи: Георги Николов
Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
