Колко опасен стана AI?

Намесата на изкуствения интелект в живота ни изведе на преден план въпроси, на които все още нямаме отговор. Те са свързани с творческите професии, с авторството, с комуникацията ни, с пазара на труда, с философската страна на темата – възможно ли е да развие собствено съзнание, докато самите ние – хората, не знаем още какво точно представлява то. Стигнахме и до безпрецедентен момент в технологичната история, в който самите фирми създатели на изкуствен интелект заявиха, че е добре да се позабави темпото. Нарекоха го "контролирано забавяне" на най-мощните модели и признаха за невъзможност контролът да следва развитието.

В "Какво се случва" доц. Паулина Цветкова от Института по роботика на БАН и преподавател, коментира непосредствените опасности:
"Нарастват неконтролируемите автономни агенти, новите системи с изкуствен интелект не просто могат да отговарят на отделни въпроси, те изпълняват задачи автономно все по-добре. Могат да проверяват електронна поща, сайтове, проникват в чужди структури, възникват все по-силни кибератаки. Злонамерени лица много използват изкуствен интелект за клониране на гласове за измами, за автоматизиран фишинг. Все по-разпространено става генерирането на перфектно аудио и видео съдържание – това подкопава сигурността и манипулира общественото мнение. Екологичната криза също е важна".

Според доц. Цветкова днес роботите са доста напреднали и продължават да се усъвършенстват:
"Ние работим със социални и социално-асистиращи роботи. Използваме ги в логопедията, в образованието и в психологията. Провеждаме терапевтични сесии, заедно с логопеди  и децата постепенно започват да се развиват. В сферата на психологията разработвам сценарий за подпомагане на работата на психолога. Нашата идея е роботът никога да не замества специалиста, а да бъде помощник".

Целия разговор на Мариана Ганчева с доц. Паулина Цветкова може да чуете в звуковия файл.