Шефове в ИИ сектора призоваха за забавяне разработването на най-мощните модели

Джейкъб Коксън, изследовател в областта на изкуствения интелект (ИИ), напуснал компанията Anthropic, заяви пред Би Би Си, че хората, работещи с тази технология, са "наистина уплашени" от скоростта на нейния напредък и от това какво може да означава тя за човечеството.

Джейкъб Коксън разказа в неделно предаване на Лора Кюнсбърг по Би Би Си за публикацията си за напускането си, станала изключително популярна в интернет, в която той изрази опасения относно изкуствения интелект, излизащ извън контрол.

"Вярвам, че ако не забавим темпото на настоящия прогрес, съществува голяма вероятност всички ние да загинем в близко бъдеще", каза той.

Напускането му съвпада с нарастващите опасения за безопасността в сектора, споделяни и от бившия му ръководител – шефа на Anthropic Дарио Амодей, който в свое есе се обяви за забавяне на темпото на разработка.

Ръководителите на две конкурентни компании за изкуствен интелект – Сам Алтман от OpenAI и Илон Мъск – също заявиха, че подкрепят предложението на Амодей за забавяне на развитието и въвеждане на регулации в цялата индустрия, както и за независим мониторинг на ИИ.

27-годишният Коксън, който е работил в OpenAI, преди да се присъедини към Anthropic, приветства идеята за забавяне, но подчерта, че тя трябва да бъде съгласувана с Китай, за да се избегне "надпревара в международен мащаб".

"Хората, работещи в тези компании, са напълно сериозни, когато настояват за регулации, тъй като се чувстват в капана на надпревара е се страхуват от последиците от тази надпревара", каза той.

Според Коксън най-трудният въпрос е как точно би изглеждал един апокалипсис, предизвикан от изкуствен интелект. Един от рисковете, посочени в коментарите на Амодей, е свързан с възможността рояк от ботове, действащи като суперкомпютър, да поеме контрола над интернет.

Коксън заяви, че този сценарий би могъл да се превърне в реалност в рамките от шест месеца до една година.