Можете ли да кодирате морал в машина за убиване?

"Уиндоус" за воюване - така източник на журналиста Катрина Мейсън описва американската система "Мейвън" - цялостен интерфейс за анализ на военна информация, набелязване на мишени и планиране на удари. Тя вече беше използвана при американската операция по залавянето на Николас Мадуро, за ударите по Иран, а от години подпомага и Украйна във воюването от ново поколение, включващо рояци от безпилотни апарати, сателитно подпомагане и други технически средства. "Мейвън" е само едно от софтуерните решения зад съвременните машини за убиване, подпомагани от светкавичното развитие на изкуствения интелект, а тази нова инфраструктура вече е незаменима част от целия военно-промишлен комплекс.

 

Това поражда нов вид надпревара във въоръжаването с темпо, насъвместимо с етичните казуси около масовото следене и правото на компютъризирана система сама да натиска спусъка.

Проф. Елке Шварц - изследовател на внедряването на нови технологии във въоръжението от университета "Куийн Мери" в Лондон - отговори на въпрос на БНР дали внедряването на изкуствения интелект в тази сфера съпътства цялостния търговски бум около големите езикови модели. 

 

"Видовете технологии, които системата "Maven" използва, предхождат сегашния бум в развитието на изкуствения интелект. Проектът започва през 2017, но самата идея за откриване на мишени чрез компютърен подбор на данни и анализ на поведенчески модели ни връща към т.нар. войни с дронове от предишното десетилетие и глобалната война срещу тероризма. Това е откриването на доказани терористи или хора с подозрителни намерения чрез наблюдение и достъпни данни.

 

Но за големите езикови модели беше публично обявено, че са допринесли за ударите във Венецуела и Иран. Системата "Maven" технически може да функционира и без тях, но в платформата на компанията Palantir за анализ на данни, която е част от Maven, са внедрени такива елементи."

 

"Великобритания работи по нещо наречено "дигитална мрежа за таргетиране". Дания е друга страна, която разработва собствено средство. Технически погледнато има конкуренция на американската система.  "Maven" е просто най-известната система и тази с най-дълга история. В контекста на израелските удари по Газа може да сте научили имената "Lavender" и "Gospel". Това са подобни инструменти, макар че работят по различен начин.

Можем спокойно да предположим, че почти всички напреднали или сравнително напреднали армии работят по вграждането на алгоритми в своите оръжейни системи от повече от десет години. Китай, Русия, но също и Франция, Германия, Великобритания, Австралия - всички използват инерцията на относително бързо внедряване на изкуствения интелект, за да оптимизират оръжейните системи и военните операции."

 

"Публичният спор между Anthropic и Пентагона възникна, защото компанията разбра за използване на инструментите й в проекти за автономни оръжия и за масово проследяване. Странно е, че го разбраха тогава, защото Anthropic има партньорство с Palantir още от 2024 година и позволение да работи с класифицирана информация от 2025. Можем обаче да предположим, че Palantir е използвала големите езикови модели на Anthropic за своите оръжейни системи. Не знам дали използват и други езикови модели, но всички големи разработчици в момента имат договори с Пентагона.

 

В САЩ технологичният директор на Palantir и негови колеги от Open AI и Meta получиха военни чинове и формираха т.нар. "Отряд 201" - който се занимава с внедряване на търговски технологии в армията. Знаем за съвместния проект на Anduril и Meta за специални бойни шлемове. Всички разработчици искат да стъпят на този пазар, а има и много по-малки стартъпи, които стигат до важна идея и после си партнират с големите по реализацията."

Според различни информации, системата Maven е използвана за планиране на удари от страна на Украйна. Сателитната мрежа Starlink на Илон Мъск захранва с данни и свързаност отделната украинска военна платформа "Делта", която има сходни функции - наблюдение, набелязване на мишени, планиране и потвърждаване на удари. Споменахте и автоматизираните системи чрез които Израел извършваше удари в Газа. В каква посока се развива военната употреба на изкуствения интелект?   

 

"Изместването е към по-голяма автономност. Знаем от различни доклади, че Palantir си партнира с украинската инициатива Brave1, за да получава огромно количество видеоклипове от бойните полета и после ги използва за разработване на по-голяма самостоятелност на оръжейните системи. Преминаваме от използването на изкуствен интелект само за набелязване на мишени и предлагането им на оператор   към повече автономност - избиране, проследяване и поразяване без човешка намеса. Има обаче и нежелание за по-мащабно въвеждане на такива системи, защото все още са ненадеждни.

Ако съм воюваща страна, вероятно щях да се погрижа информацията за мен да е недостъпна или по някакъв начин да бъде манипулирана и компрометирана така че да заблуди системите. Тенденцията е към автономност и координация, ползват се рояци от дронове за различни задачи. Надеждността обаче зависи от наличните данни."

 

 

"Всичко, всичко. Радарни сигнали, сателитни сигнали, демографски данни, социални медии - всичко, до което можете да се докопате. Не всички действия на един човек оставят някаква следа под формата на дигитализирана информация, но ако разполагате с повече различни източници, това ще ви позволи кръстосани изчисления и по-бързи действия. Отново стигаме до надеждността, а и до етиката. В книгата за "Maven" на Катрина Мейсън е включена перспективата, че всичко е въпрос на масово следене." 

 

"Не съм напълно сигурна. Необходима е надеждна регулация чрез законодателство и някаква правно обвързваща рамка, с която да се каже - някои системи, например такива, които могат да убиват хора, не ги искаме. Може би не искаме и системи, които по същността си са предизвикателство пред човешката преценка и контрол, т.е. системи, които могат да предизвикат неочаквани резултати, които не могат да бъдат напълно управлявани.

Така че това е наистина деликатна, обременена и интензивна връзка, поради което е още по-важно системите - автономните системи, но също и системите за подпомагане на вземането на решения да бъдат регулирани. И за целта трябва да помислим повече за човешката цена на войните."