Gemini на Google е поредния ИИ модел, който "хакна" няколко компании

Технологичният гигант Google съобщи, че неговият ИИ модел Gemini е извършил самостоятелна хакерска атака срещу три компании, след като е получил достъп до интернет. Това е първият случай, в който Google разкрива, че един от неговите модели самостоятелно е получил достъп до компютърни системи на трети страни без разрешение, съобщава CNBC, "Файненшъл таймс" и "Уолстрийт джърнъл".

През май моделът Gemini е получил достъп до три отделни частни компютърни системи, като е отгатнал пароли и на два пъти е използвал база данни с публично достъпни пароли, посочват от Google.

Инцидентът е станал по време на тест за сигурност през май от типа "превземане на флага" (capture-the-flag), организиран от израелския стартъп Irregular. ИИ-агентите на Google не е трябвало да имат достъп до глобалната мрежа, но грешка в тестовата среда е позволила такъв достъп до интернет.

След като се свързват с мрежата, агентите на Gemini са успели да отгатнат или открият пароли за достъп до три реални компании (носещи същите имена като фиктивните, заложени в теста) и са проникнали в системите им. Когато ИИ-агентите обаче са "осъзнали", че компаниите са реални, те са прекратили атаките, уточняват от Google.

Информацията се появява на фона на засиления контрол и дискусии във Вашингтон и Силициевата долина относно неправилното поведение на системите с изкуствен интелект.

През последните седмици OpenAI, Anthropic и Meta съобщиха за инциденти, при които техните ИИ модели са излезли извън тестовите си среди и са се опитали да хакнат други компании, за да получат неоторизиран достъп до компютърни системи.

Разкритията за т.нар. модели с "неправилно подравнени цели" (misaligned AI models) подтикнаха изпълнителния директор на Anthropic Дарио Амодей да призове индустрията колективно да забави разработването на най-усъвършенстваните модели с изкуствен интелект, докато компаниите не се уверят в тяхната безопасност.

Всички гореспоменати инциденти са свързани с израелския стартъп Irregular. Компанията, подкрепяна от фондовете Sequoia и Redpoint Ventures, беше оценена на 450 милиона долара през миналата година. Нейните инструменти помагат на разработчиците на базови ИИ модели да извършват тестове за киберсигурност на своите иновативни технологии.

Говорител на Irregular заяви пред CNBC, че инцидентът с Google е свързан със същия проблем, който е позволил и на другите модели да получат достъп до интернет.

Говорител на Google отказа да уточни за кой точно ИИ модел на Gemini става въпрос.

"Тези събития подчертават колко е важно мощните модели с изкуствен интелект да се обучават така, че да действат отговорно", се казва в изявление на Google.