Изследовател: 10% шанс ИИ да може да убие хората

Според водещ изследовател по безопасност в компанията "Антропик" има над 10% вероятност "изкуственият интелект да може да убие всички хора" през следващото десетилетие, съобщават британски медии.

Това се случва, след като фирмата разкри, че е идентифицирала четвърти инцидент с "киберсигурността" от януари 2026 г., включващ нейния продукт "Клод" (Claude).

Изследователят на "Антропик" Еван Хюбингер заяви по-рано в "Екс", че макар "рискът от настоящите модели да е нисък", той е обезпокоен от "суперинтелигентност", произтичаща от използването на собствените възможности на ИИ за изграждане на по-умна версия на себе си. Той каза, че това се случва "по-бързо, отколкото си мислехме".

"Файненшъл таймс" пък съобщи, че компанията "Антропик" е отказала да представи най-новия си модел на "Клод" (Claude) на британския Институт за сигурност на ИИ за тестване преди пускането му. Дарън Джоунс, бившият главен секретар на Киър Стармър, е писал на Анди Бърнам, призовавайки за нов многонационален договор за ИИ, цитирайки коментарите на Хюбингер. Писмото, адресирано и до генералните секретари на ООН и на Организацията на икономическо сътрудничество и развитие, призовава премиера да добави темата към дневния ред на предстоящите срещи на Г-7 и Г-20.

Еван Хюбингер направи коментарите в отговор на публикация на Джейкъб Коксън, който заяви, че е подал оставка от Anthropic поради опасения за сигурността, след като преди това е работил за създателя на ChatGPT - OpenAI.