Какво включват новите правила за използването на изкуствен интелект?

От втори август в ЕС влиза поредната порция правила за използването на изкуствения интелект. Чатботовете трябва да се идентифицират като машини, а "дийпфейк" материалите да бъдат обозначени като такива.

"Това влиза в графата "Задължения за прозрачност". Тези изисквания трябва да залегнат още при разработката на системи с изкуствен интелект.

Каквото и да са направили до момента, би следвало да адаптират системите си, дори на следващ етап, след тяхното разработване и внедряване", обясни пред БНР доктор Калина Георгиева, главен асистент в Софийския университет, преподавател по "Информационно право" в Юридическия факултет.

Компаниите предприемат необходимите мерки, за да адаптират своите системи към законодателството, посочи тя. 

"Най-високата степен на опасност, извън забранените практики, попада в обхвата на т.нар. високорискови системи, които ще бъдат последни по време на прилагане – от 2027 и 2028 г.

НАП вече са внедрили система с изкуствен интелект, която ще помага. Това постепенно би могло да се случва и с различни други заинтересовани страни".

Резултатите, постигнати по този начин, трябва да са обозначени като "създадени вследствие на употребата на системи с ИИ", посочи още тя.

"За да се гарантира правилното прилагане на законодателния акт за изкуствения интелект, задълженията за прозрачност са за т.нар. доставчици и разработчици на системите, както и за внедрителите. Потребителят, физическото лице трябва да е информирано, че взаимодейства със система с ИИ, която ще му даде възможност да генерира някакво съдържание. Резултатите от употребата на една такава система трябва да са съпътствани с много ясна маркировка. Важно е тази маркировка по автоматизиран начин да бъде ясно разпознаваема не само от хора, но и от други машини.

У нас следва да бъде допълнена и много по-сериозно развита системата на т.нар. национални компетентни органи, обясни още Калина Георгиева. Тя посочи, че създаването на национална регулаторна лаборатория е предвидено да се случи до август 2027 г.

Органите по стандартизация на ЕС се предвижда да изработят т.нар. хармонизирани стандарти в областта на високорисковите системи, допълни тя.

"Това са изискванията за човешкия контрол, за киберсигурността. Те се превръщат в един стандарт за добра практика, която има в международен план. Така се постига някакъв вид доверие за това, че регламентът, който създава правилата, е на практика приложен".

Цялото интервю на Добромир Видев с Калина Георгиева може да чуете в звуковия файл.