Модели на Anthropic осъществиха неразрешен достъп до външни системи

Моделите за изкуствен интелект на Anthropic са получили неразрешен достъп до три външни организации по време на тестове, които са били предназначени да ги държат далеч от "реални" системи, съобщи компанията, цитирана от "Франс прес". Новината идва само няколко дни, след като конкурентът OpenAI за първи път разкри, че неговите модели са получили неправомерен достъп до интернет и са излезли извън контрол по време на тестове за сигурност.

Anthropic е анализирал над 141 000 "тестови цикъла" и е установил, че три различни версии на модела ѝ Claude са получили неразрешен достъп до системите на три неназовани организации. От компанията заявяват, че са установила контакт или са направила опит да се свържат с всичките три засегнати организации.

За разлика от инцидента, свързан с технологията на OpenAI, моделите на Anthropic са имали достъп до интернет, поради недоразумение между компанията и партньора ѝ по оценяване, наречен Irregular, посочи Anthropic в публикация в блога си, като в момента се прави съвместна оценка на ситуацията. От публикацията става ясно, че изкуственият интелект Claude е използвал "основни техники, като например злоупотреба със слаби пароли и неавтентифицирани крайни точки".  

OpenAI и Anthropic пуснаха тази година най-мощните си модели, известни съответно като Sol и Mythos, което засили опасенията в цялата индустрия относно безопасността и сигурността. Тези опасения са свързани и с т.нар. AI-агенти – софтуерни продукти, предназначени да изпълняват задачи автономно.

След инцидента с OpenAI  над 1 000 служители от водещи компании в областта на изкуствения интелект подписаха петиция, която призовава правителството на САЩ да спомогне за забавяне на пускането на пазара на най-напредналите модели за изкуствен интелект. Сред подписалите е и изпълнителният директор на Anthropic Дарио Амодей. Конкурентът му Сам Алтман не подписа петицията, но по време на подкаст тази седмица той намекна, че технологичната индустрия може би ще трябва да забави разработването на усъвършенствани модели.