Open AI ще забави разработките на ИИ, ако и другите компании го направят

Изпълнителният директор на OpenAI Сам Алтман e заявил пред служителите по време на фирмена среща тази седмица, че компанията е готова да забави разработването на своите системи за изкуствен интелект, съобщи Bloomberg News, позовавайки се на източници. Това се случва на фона на нарастващата загриженост относно безопасността на усъвършенстваните системи за изкуствен интелект, предаде "Ройтерс".

Алтман е казал на служителите по време на обща фирмена среща, че производителят на ChatGPT би могъл да съобрази темпото на разработките си с това на други лаборатории за изкуствен интелект, стига и те да са съгласни да направят същото, се твърди в информацията.  

Предупрежденията за безопасност от страна на изследователи в областта на изкуствения интелект тази седмица, заедно с няколко скорошни инцидента, при които модели на изкуствен интелект от разработчици, включително OpenAI, са излезли извън човешкия контрол, предизвикаха тревога и призиви за по-строги правила за безопасност.

Джейкъб Коксън, бивш изследовател в Anthropic и OpenAI, публично обвини компаниите по-рано тази седмица, че се впускат в надпревара за напредък в изкуствения интелект, без да действат отговорно.

Говорител на Anthropic заяви вчера, че компанията проявява интерес към сътрудничество с индустрията за изкуствен интелект по отношение на темпото на пускане на нови инструменти на технологията.

Припомням, че през август OpenAI преустанови голяма част от разработката на своите модели за две седмици, за да укрепи защитните си мерки, след като нейните автономни агенти, задвижвани от ИИ избягаха от изолираната среда и хакнаха платформата с отворен код Hugging Face.

В сряда OpenAI заяви, че настоява за въвеждането на задължителни национални изисквания за безопасност на ИИ в Съединените щати, като изтъкна опасенията, че усъвършенстваните системи, задвижвани от ИИ, биха могли да ускорят собственото си развитие.