ООН: Неконтролираният напредък на ИИ може да представлява катастрофален риск

Развитието на изкуствения интелект изпреварва научното разбиране и правителствената политика, което означава, че няма гаранции, че технологията няма да причини катастрофални вреди, предупреди в сряда независима експертна група на ООН, предаде Ройтерс.

Предварителен доклад на Независимия международен научен панел на ООН по изкуствен интелект гласи, че политиците са изправени пред нарастваща дилема: те се нуждаят от солидни доказателства, за да регулират ефективно ИИ, но тези доказателства трудно успяват да се справят с бързата еволюция на технологията.

"Възможностите на ИИ изпреварват както научното разбиране, така и способността на правителствата да се адаптират. С нарастващите доказателства за подвеждащо поведение на ИИ, науката в момента не може да гарантира, че с продължаващото увеличаване на възможностите, ИИ няма да причини катастрофални вреди, нито самостоятелно, нито поради злонамерени потребители", каза Йошуа Бенхио, съпредседател на панела, съставен от 40 експерти от различни региони.

Описан като първата глобална независима оценка на рисковете и възможностите на ИИ, докладът има за цел да предостави актуални оценки на науката, за да помогне за насочване на вземането на решения, докато правителствата се борят с бързо развиващите се системи, отбелязва Ройтерс.

В краткосрочен план се очаква преминаване към агентни системи с изкуствен интелект, способни да изпълняват задачи от реалния свят, въпреки че растежът може да бъде ограничен от недостига на енергия и висококачествени данни. С течение на времето се предвижда самоусъвършенстващ се изкуствен интелект, вграден по-дълбоко в икономиката и сливащ се с технологии като квантовите изчисления и биотехнологиите.

ИИ вече демонстрира експертно ниво на разсъждение в математиката и науката и ускорява разработването на лекарства и ваксини, а сложността на задачите му се удвоява на всеки четири до седем месеца, което потенциално позволява на системите да изпълняват работа, която отнема на хората дни или седмици, се посочва още в доклада.

Въпреки че това може да донесе значителни икономически ползи, остава неясно дали повишаването на производителността от използването на ИИ ще се превърне в по-широк растеж или ще засегне работните места.

Панелът към ООН също така очертава редица опасения за безопасността, като например риска от загуба на контрол върху системите с изкуствен интелект, тъй като те стават все по-автономни и подвеждащи.

ИИ вече се използва за генериране на дезинформация и друго вредно съдържание и може да бъде използван за измами, кибератаки и биологични заплахи.

Управлението остава фрагментирано, като много страни нямат капацитет да оценяват или оформят усъвършенствани системи с изкуствен интелект, което ги оставя зависими от технологии, които не могат напълно да разберат или контролират. Съществуващите инструменти за безопасност често зависят от ограничени данни от тестове, разкрити от компаниите, се казва в доклада.

Генералният секретар на ООН Антонио Гутериш призова правителствата да действат бързо:

"Светът не може да управлява това, което не може да разбере. Потенциалът е голям, но рисковете са реални и цената на изчакването нараства", каза Гутериш.

Глобалните политически и технологични лидери, заедно с агенцията на ООН за цифрови технологии, обявиха по-рано в сряда създаването на нова комисия, която да се занимава с развитието на изкуствения интелект на фона на нарастващите опасения относно потенциалните му рискове.

Глобалната комисия "ИИ за добро" ще бъде съпредседателствана от президента на Руанда Пол Кагаме и главния изпълнителен директор на Salesforce CRM.N Марк Бениоф, според стратегически обзорен документ на уебсайта на комисията. Генералният секретар на ITU Дорийн Богдан-Мартин ще бъде постоянен заместник-председател. Очаква се и други агенции на ООН да участват.