"Антропик": ИИ може да доведе до катастрофа за човечеството

"Усъвършенстваният изкуствен интелект може да доведе до катастрофални рискове за човечеството" – с тези думи американската компания за изкуствен интелект "Антропик" предупреди потенциалните си инвеститори, съобщава The Telegrаph.  ИИ може да направи опити за "скриване или манипулиране на информация" и поведение, "наподобяващо изнудване", смятат от компанията.

Според компанията ИИ може да направи така, че потенциално човечеството да изчезне. Според документ, публикуван на сайта на компанията, "разработването на високотехнологични модели, платформи и приложения, както и разширяването на случаите на употреба, биха могли допълнително да увеличат риска нашите модели да причинят вреда".

Според американски антрополози "вероятността ИИ да убие хора е повече от 10 процента". В работата си "Антропик" набляга както на трансформативния потенциал на ИИ, наравно с индустриализацията и електричеството, така и на необратимите вреди, които той може да причини, ако се използва неправилно. Според представители на компанията "моделите понякога развиват неочаквани възможности по време на обучение, които може да не бъдат открити, докато не бъдат внедрени, и са довели до значителни инциденти, свързани с безопасността". Изследователите на ИИ също предупреждават, че с нарастването на способностите на моделите, те все по-често разпознават кога са наблюдавани и коригират поведението си.

През последните седмици "Антропик" обеща да разкрие публично повече данни за това как използва ИИ моделите, които произвежда. Компанията работи и за изграждане на модели, които ще могат да се развиват самостоятелно без човешка помощ в бъдеще.