Футуролог: ИИ се развива с такава скорост, че скоро няма да го разбираме

В момента изкуственият интелект (ИИ) се развива толкова бързо, че съвсем скоро е възможно да не го разбираме. Това каза футурологът от БАН доц. Мариана Тодорова и поясни, че целта е да се разработи т. нар. генерален изкуствен интелект, който би имал някаква форма на съзнателност и би осъзнавал грешките в отговорите си.

"Изкуственият интелект навлиза във всички сфери на нашия живот. Аз дори не мога да се сетя някоя, в която той вече да не присъства - от земеделието, в което с близкоорбитни сателити с изкуствен интелект може да наблюдаваме посевите на цяла една държава, да диагностицираме каква ще бъде реколтата, има ли някъде проблем, има ли засушаване, той да препоръча съответните мерки за поливане, за наторяване. Дори може да даде прогнозна цена. В медицината може в аванс да диагностицира рак на кожата или на гърдата, така че всеки човек, който получи подобно становище да коригира поведението, здравните си навици. Но също така развива се непрекъснато и за разлика от всички индустриални революции до момента, в който ние имаме едно откритие и то има огромно въздействие върху човешката цивилизация, но само по себе си то остава такова, каквото е - Гутенберговата преса и книгите, електричеството, дори интернет. Докато сега ние имаме една технология, която се развива непрекъснато в степен, в която за 3 години успява да решава изключително сложни математически задачи, които са били предизвикателни за човечеството над 100 години, успява да измисли нови формули за антибиотици, към които не сме резистентни и за лекарства. Но най-обезпокоително е, че той се развива със скорост, в която ние няма да можем скоро да обхващаме познавателно и да разбираме. И ще ви дам пример. Ако сега боравим с тези чатботове като ChatGPT и Gemini, ако те сега са партньори, с които разговаряме, получаваме съвети навсякъде, то след време прогнозите на всички технологични "оптимисти" са, че една такава технология, която вече няма да бъде технология, защото ще бъде като много интелигентна същност, ще придобие интелигентност, колкото на цялата човешка цивилизация. Знаем, че никой от нас не може да носи тази колективна мъдрост, интелигентност, колкото на цялата цивилизация и съчетавайки това знание може да направи нови открития, от които, разбира се, ние да се възползваме."

Някои открития на ИИ обаче биха могли да бъдат зловредни, затова човекът трябва да може да контролира технологията, каза футурологът.

"Може да открие биологично оръжие, друг тип ядрено бойно оръжие или начин, по който да влияе на атмосферата и на климатичните промени... И когато това стане, а то е доста близо, много трудно бихме могли, когато нещо не го познаваме достатъчно добре, не знаем как действа, как взима решения, изобщо изходната информация, която търсим, за нас би било изключително трудно да го разбираме, съответно да го управляваме и да го контролираме..."

Доц. Тодорова участва в няколко групи към ООН и Ватикана, които дискутират бъдещето на ИИ. Една от темите, обсъждани от тях, е за поставянето на технологията на пауза. 

"Напоследък стигаме до извода, че може би трябва да призовем за пауза, за намаляване на скоростта, с която се разработва, защото ние имаме стотици и хиляди платформи във всички човешки сфери, от които можем да черпим блага и тепърва можем да осмисляме техните ефекти, защото виждаме, че ефектите върху детския мозък не са еднозначни, че децата заместват четенето и мисленето с готови отговори от ИИ и това може да е доста пагубно. Но забавяйки развитието, давайки ни възможността да регулираме тези процеси правно и да нанесем корекции в образованието, така че само да се възползваме, но да не заместваме нашите усилия с изкуствения интелект, предвиждайки кои професии могат да изчезнат и решавайки този проблем, това ще ни даде време безболезнено да усвоим технологията, а не да развиваме нова такава, която не можем да управляваме и да се окажем в позиция, в която сме безпомощни. Така че разликата и акцентът, който искам да поставя, е, че за сравнение с всички други големи открития и индустриални революции, този път имаме срещу себе си една развиваща се технология, която доста доближава нашата същност и така, както понякога ни е много трудно да прогнозираме каква е ще реакцията на отсрещния човек, на опонента, на врага при военни конфликти, така ще ни бъде трудно да общуваме и да управляваме тази технология. И точно сега е моментът за дискусии и за взимането на информирани решения, защото политиците и хората, които взимат решенията и за технологиите, не са тези, които ги разработват и разбират в пълнота."

За да се постигне подобно забавяне, консенсус трябва да има между двете водещи страни, които разработват изкуствения интелект - САЩ и Китай. 

Доц. Тодорова коментира също какво ще бъде отражението на технологията върху пазара на труда и посочи кои професии са най-застрашени да изчезнат. 

Повече може да чуете в звуковия файл.