Над 1000 специалисти по ИИ настояват за забавяне на разработките

Вoдещи компании подписаха открито писмо с призив за въвеждане на нов подход, който да позволява контролирано забавяне на автоматизираното разработване на изкуствения интелект. Главният изпълнителен директор на Anthropic Дарио Амодей подписа писмото заедно с представители на ключови позиции във водещи компании в сектора като OpenAI, подразделението на Meta AI и Thinking Machines. Според подписалите, усилията на технологичните компании да автоматизират разработването на модели ИИ пораждат огромни рискове за сигурността. Развитието на тези способности има опасност да се ускори с темпо, изпреварващо възможностите за разбиране, още по-малко контрол на новосъздадените системи.

 

Главният изпълнителен директор на Google DeepMind Демис Хасабис също се включи в дебата по-рано този месец със свой коментар в платформата Substack. Хасабис предлага създаването на независима организация, която да определи правила за проверка на опасностите при актуализиране на изкуствения интелект, както и да тества новите модели, преди те да бъдат пуснати за масово използване.

 

Според подкрепящите инициативата в момента не съществуват необходимите инструменти за безопасно ограничаване на скоростта на изследванията. Затова призовават правителството на САЩ да се включи и подкрепи международното усилие за създаване на технически средства, които да позволят умишлено забавящи механизми и по-добър контрол върху развитието на бъдещите AI модели.