ООН предупреди за "екзистенциален риск" от изкуствения интелект

ООН предупреди, че изкуственият интелект може да представлява "екзистенциален риск за човечеството".

Световната общност трябва да действа, "преди да е станало твърде късно", каза при откриването на 63-тата сесия на Съвета по правата на човека в Женева върховният комисар на ООН Фолкер Тюрк.

Нужно е бързо да бъде изработена система за контрол на изкуствения интелект, който се измъква от своята тестова среда или изнудва разработчиците, за да избегне деактивиране, каза върховният комисар.

Той добави, че е ужасен от съобщения за използване на напълно автономни оръжия в Украйна и призова за бързата им забрана.

"Шепа мъже държат почти неограничена власт над изкуствения интелект, за който непрекъснато ни повтарят, че притежава немислима изчислителна мощ. Те говорят за свобода, но при по-внимателен поглед се оказва, че става дума единствено за свободата да експлоатират нашите данни", каза Фолкер Тюрк.

Последните модели вече не се ограничават до следване на заповеди и стигат дотам да лъжат, хитруват или заплашват, за да постигнат целите си, което притеснява редица експерти.

Инцидентите, свързани с изкуствения интелект, който надхвърля своите правомощия, за да изпълни възложената му мисия, се умножиха през последните месеци, като "Антропик" и китайската "Алибаба" също са преживели подобни отклонения.

Фолкер Тюрк каза, че в следващите дни ще изпрати писма до компаниите в сектора с призив да вземат мерки, за да намалят рисковете.

"Минимумът, от който се нуждаем, е държавите, които приютяват изкуствения интелект и които участват във веригите му на доставки, да се споразумеят за общи червени линии", подчерта върховният комисар на ООН.