Банковите регулатори засилват усилията за ограничаване на растящите ИИ рискове

Банковите регулатори засилват усилията си за овладяване на нарастващите рискове, свързани с изкуствения интелект, като някои от тях посочват потенциала за кибератаки срещу банки или нелоялни агенти, подкопаващи глобалната финансова стабилност, съобщиха за Ройтерс източници, запознати с въпроса.

Регулаторният контрол отразява за пръв път нарастващото признание, че напредъкът в областта на граничния изкуствен интелект може да изисква скъпи инвестиции в кибер възстановяване, по-голямо внимание към зависимостите от външни доставчици на технологии и в някои юрисдикции по-формални регулаторни насоки, съобщиха източници на агенцията.

Трима водещи регулатори в Съединените щати, включително Федералният резерв, разпитват банките за използването на усъвършенствани модели на изкуствен интелект, казаха два от източниците пред Ройтерс.

Въпросите включват дали те внедряват разработени в Китай технологии, използват агенти с изкуствен интелект в киберзащитата и дали могат да контролират все по-автономни ИИ системи, казаха трима от източниците.

В Европа надзорните органи, включително ЕЦБ и Английската централна банка, оказват натиск върху банките да подобрят плановете си за възстановяване, загрижени, че бързият напредък в областта на изкуствения интелект може да причини сериозни вреди и смущения на финансовите пазари по-рано, отколкото се опасяваха преди, посочиха три от източниците на Ройтерс.

Висш ръководител в голяма европейска банка заяви, че и те са обезпокоени от потенциално големи щети за банковите и финансовите пазари в рамките на шест месеца.

Дебатът относно надзора върху изкуствения интелект се засили на фона на предупрежденията от индустрията след скорошни инциденти, като главният изпълнителен директор на JPMorgan Джейми Даймън призова корпоративните лидери да се присъединят към фокусирана върху САЩ индустриална група за справяне с рисковете, свързани с изкуствения интелект.

Американската компания за киберсигурност CrowdStrike пък заяви, че този месец човек в Китай вероятно е използвал разработен в азиатска държава агент с изкуствен интелект и кода Claude на Anthropic при хакерска атака срещу южнокорейски банки. Междувременно агенти с изкуствен интелект, разработени от OpenAI, са били замесени в пробив в платформата за изкуствен интелект Hugging Face, съобщи Ройтерс.

Изследователи на Anthropic предупредиха, че все по-мощните системи с изкуствен интелект могат в крайна сметка да излязат от човешки контрол и дори да представляват екзистенциална заплаха, което доведе до призиви за по-строга регулация.

Международният валутен фонд предупреди във вторник да няма "самодоволство" на световните финансови пазари, посочвайки различни рискове, включително потенциала за кибератака. МВФ заяви, че голяма атака, засягаща критична услуга или финансова институция, може да подкопае доверието и призова политиците да увеличат капацитета си за киберсигурност.

Банките се конкурират в приемането на агентен изкуствен интелект, който може да изпълнява задачи с минимален човешки надзор, като същевременно се борят с предизвикателствата на новите модели, включително ИТ слабостите, маркирани от инструмента Mythos на Anthropic.

"Въвеждането на изкуствен интелект често изпреварва способността за въвеждане на контрол", каза Майкъл Уудбридж, партньор по киберсигурност в Grant Thornton, базиран в Лондон.