Надпреварата за ИИ: САЩ и Китай между съперничеството и риска

Мисля, че ограничено, но смислено споразумение е реалистично. Една всеобхватна сделка, регулираща цялата конкуренция в областта на ИИ, е много по-трудна. Документ от една страница може да даде политическа подкрепа за сътрудничество, но стойността му зависи от това какво следва: кой носи отговорност, каква информация се споделя и как двете страни реагират, когато нещо се обърка. Неотдавнашната среща на върха създаде възможност за това. Китай и САЩ се договориха да създадат диалог за ИИ и канал за комуникация относно инциденти, свързани с него. Следващата стъпка е тези договорености да заработят. От моя опит в неофициалните дискусии (т.нар. track-two diplomacy), постигането на споразумение става по-лесно, когато се фокусираме върху конкретни ситуации. Ако една система с ИИ проникне в мрежите на друга държава без разрешение, нито едно от правителствата няма полза от това веднага да третира този инцидент като умишлена атака, спонсорирана от държавата. Обсъждането на ИИ наред с търговията има предимства и рискове. Висшите икономически служители могат да осигурят решения от лидерите, но сътрудничеството в областта на безопасността може да стане уязвимо от несвързани спорове за мита или чипове. Техническият обмен се нуждае от достатъчно приемственост, за да преживее тези разногласия. От китайска гледна точка сътрудничеството трябва също така да уважава способността на двете страни да развиват технологията. Едно споразумение, създадено да запази постоянната преднина на една държава, би било трудно за поддържане. Затова съм умерено оптимист за редовни срещи на експерти, надеждни контакти и основни процедури за докладване на инциденти. Недоверието прави тези стъпки по-трудни, но също така ги прави и по-необходими.  

Не мисля, че диалогът е обречен да остане в застой, но и двете страни се притесняват, че ограниченията за безопасност могат да ги поставят в стратегическо неизгодно положение. От гледна точка на Пекин предложението на Амодей поражда проблем. Той идентифицира сериозни рискове за безопасността, но също така се застъпва за по-строги ограничения върху достъпа на Китай до чипове, за да се запази преднината на Америка. Китайският скептицизъм е разбираем, когато сътрудничеството по отношение на обща опасност е свързано с ограничаване на развитието на Китай. Въпреки това бих уточнил идеята, че премахването на контрола върху чиповете винаги е било условие за преговори. Двете правителства проведоха дискусии за ИИ в Женева през 2024 г., докато тези ограничения все още бяха в сила. Неотдавнашната среща на върха също така показва, че разногласията не правят диалога невъзможен. Практическият въпрос е какво точно ограничаване имаме предвид. Едно обхватно забавяне би било трудно да се дефинира и провери. Правителствата биха се тревожили за тайни проекти, а компаниите – че конкурентите им напредват. По-целенасочените мерки са по-лесни за обсъждане, като например по-задълбочено тестване, ограничения върху достъпа на даден агент до външни мрежи и отлагане на конкретно внедряване, когато възникнат сериозни рискове. Всяко ограничение трябва да адресира сравними рискове и в двете страни, с ясни критерии и начин за проверка на спазването му. Това предлага по-добра основа за споразумение, отколкото да се иска от която и да е от страните да приеме траен технологичен недостатък. Конкуренцията ще продължи; предизвикателството е да направим сътрудничеството в областта на безопасността полезно и двете правителства да го запазят въпреки по-широките политически разногласия.  

Да, споделената уязвимост дава и на двете страни силна причина да си сътрудничат, въпреки че тя няма автоматично да преодолее недоверието. Трябва да описваме тези инциденти внимателно. Разследването на OpenAI и Hugging Face документира агент, който излиза извън тестовата си среда и получава неразрешен достъп до външни системи. Изследователите, свързани с Alibaba, съобщиха за неразрешен добив на криптовалута и мрежова активност. Това бяха различни инциденти и нито един от тях не доказва, че ИИ е станал напълно неконтролируем. Те обаче показват, че възлагането на задача на дадена система не гарантира, че тя ще остане в позволените граници. С придобиването на повече инструменти и функционирането за по-дълги периоди от време от страна на агентите, тази празнота става по-значима. Нито Китай, нито Съединените щати искат системите с ИИ да нарушават финансовите услуги, да разкриват чувствителна информация или да пречат на критичната инфраструктура. Технологичното лидерство не прави никоя от страните имунизирана. Сътрудничеството може да започне с информация, която не разкрива основни технологии. Изследователите биха могли да сравняват общи проблеми, начини за ограничаване на разрешенията на агента и методи за откриване на неразрешена дейност. Компаниите биха могли да обменят внимателно филтрирани доклади за инциденти. Правителствата също се нуждаят от канал за ранно предупреждение за инциденти, които пресичат границите. Едно уведомление би могло да помогне за ограничаване на проблема, без да се предрешава кой носи отговорност. Тук има важно политическо условие: разкриването на даден провал трябва да помогне за предотвратяването на следващия. Ако всяко разкритие се превърне в оръжие срещу конкурент, компаниите ще станат по-малко открити и двете страни ще разбират рисковете по-слабо.  

Бих бил внимателен в описването на това като фундаментално разделение между технически настроени САЩ и политически настроен Китай. И двете държави имат технически опит, политически притеснения и информация, която искат да защитят. Китайските участници може да търсят яснота относно целта и честността на дискусията, преди да обсъждат детайли. Американските участници може да искат ранни доказателства за практически резултати. Добре проектираният процес може да удовлетвори и двете страни. От моя опит в неофициалните диалози, дискусиите се подобряват, когато участниците работят по конкретен сценарий. Задаването на въпроса какво би направила всяка от страните, ако ИИ агент проникне в болнична мрежа, е по-продуктивно от дебатирането на безопасността на ИИ като цяло. Ето защо бих предложил редовни контакти както на политическо, така и на техническо ниво. Висшите служители трябва да определят обхвата и да разрешат продължаването на работата. Техническите екипи трябва да включват експерти в тестването на модели, киберсигурността и реагирането на инциденти. Всяка среща трябва да има изпълнима задача: дефиниране на сериозен инцидент, съгласуване на това какво трябва да съдържа първоначалното предупреждение или тестване на комуникационните процедури чрез симулирана извънредна ситуация. Участниците също имат нужда от правила за поверителност, за да могат да обсъждат проблеми, без да предполагат, че всяко предварително откритие ще се превърне в публично обвинение. Неофициалният обмен може да проучва варианти между официалните срещи, но правителствата трябва да възложат отговорност и ресурси. Срещата на върха предостави политическа подкрепа; следващият тест е дали експертите ще получат ясен мандат да превърнат тази подкрепа в процедури, които могат да използват в практиката.  

Европа има реално влияние, особено върху търговското поведение. Въпреки че не може да определи посоката на стратегическата конкуренция между Китай и САЩ, първият ѝ източник на влияние е нейният пазар. Компаниите, предлагащи ИИ в Европа, трябва да се съобразяват с европейските изисквания. Рамката на ЕС налага задължения за безопасност на доставчиците на усъвършенствани модели, които крият системни рискове. Има конкретни доказателства, че това е от значение. OpenAI, Google и Anthropic подписаха Кодекса на ЕС за поведение при ИИ с общо предназначение. Кодексът предоставя доброволен път за изпълнение на правните задължения. Тяхното участие показва, че европейските правила влияят върху решенията на големите компании. Европа може също да допринесе с независими тестове, изследвания на безопасността и последователни подходи към докладването на инциденти. Това би могло да помогне на китайските и американските експерти да сравняват доказателства въпреки политическите разногласия. Но има и ограничения. Европейската регулация не може сама по себе си да контролира авангардните изследвания в нито една от двете страни, а военната конкуренция се простира отвъд търговската регулация. Влиянието на Европа също зависи от ефективното прилагане на правилата и от собствените ѝ технологични възможности. От китайска гледна точка сътрудничеството с Европа е възможно по отношение на оценката на риска, човешкия надзор и по-широкия достъп до ползите от ИИ. Стандартите ще получат по-широка подкрепа, ако се разработват открито и демонстрират намалени рискове. За България това е от практическо значение. Болници, бизнеси и публични институции може да разчитат на ИИ, разработен в чужбина. Те заслужават глас в неговото управление. Сътрудничеството между Китай и САЩ може да помогне, но то не може да замести участието на други държави.