Anthropic: Има риск от ИИ "компютърни червеи", разпространявани от умни джаджи

Възможно е само след броени месеци малките модели с изкуствен интелект (ИИ) да придобият способността да се държат като "компютърен червей", копирайки се от едно свързано с интернет устройство на друго без човешка намеса, заявиха от водещата компания в сферата на ИИ Anthropic, предаде Франс прес.

Това откритие потенциално отваря нов фронт в заплахите за киберсигурността, произтичащи от изкуствения интелект – заплахи, които вече предизвикаха безпокойство сред правителствата и компаниите, бързащи да внедрят тази технология.

Изследването, публикувано в блога на Anthropic, се появява на фона на надпреварата между технологичните компании да вграждат все по-мощни ИИ системи директно в смартфони, лаптопи, автомобили и домакински уреди, вместо да действат единствено в отдалечени центрове за данни.

"Компютърният червей" е вид зловреден софтуер, който се разпространява самостоятелно между отделните машини. Изследователите от Anthropic отбелязват, че за функционирането на версия, базирана на ИИ, няма да са необходими мощни центрове за данни.

Вместо това, такъв софтуер би могъл да работи в мрежи от евтини потребителски устройства със слаба защита, като например устройства за стрийминг към телевизори (smart TV boxes) и кухненски уреди.

За своите изчисления изследователите са взели за модел Kimwolf – ботнет (мрежа от компрометирани устройства, управлявани от хакери), който в пика на активността си е заразил над два милиона устройства, предимно бюджетни Android TV устройства.

ИИ червей от този тип вероятно би действал бавно, като за самокопирането му биха били нужни дни, посочват Уилям Джоу и Даниел Фрийман от Anthropic, сравнявайки процеса с поведението на слузеста плесен или рояк плодови мушици.

Веднъж създаден обаче, той би бил труден за елиминиране, тъй като не би имало централен превключвател, чрез който да бъде спрян.

Изследователите уточняват, че оценката им е приблизителна, тъй като се базира на един конкретен вид устройство и на един минал случай на ботнет.

Въпреки това, с течение на времето се очаква изчислителната мощ на ежедневните устройства да нараства, докато необходимите за подобна атака ИИ модели вероятно ще стават все по-компактни, допълват изследователите.