Никола Тулечки: ИИ – средство срещу идеологически опоненти?

Как да различим дали един текст е писан от ИИ през казуса "Дойче веле" – Явор Дачков", коментира в "Мрежата" по програма "Христо Ботев" Никола Тулечки, лингвист и експерт по данни в "Онтотекст".

Защо му е на някого да се опитва да злепоставя свой колега в друга медия, казвайки, че текстът му е писан от изкуствен интелект?

"Злепоставя го по идеологически причини, защото те са идеологически опоненти. Даже като прочетем самия статус на господин Дачков, той не е толкова за конкретния текст, а по-скоро се опитва да атакува самата медия.

Казва: "Ето, цялата ви работа е такава, цялата ви публицистика, разследвания и герои са фейк". Тоест той използва това като аргумент, който много умело после разширява така, че да атакува идеологическия си опонент."

Само "лошите" ли използват ИИ

"Според мен е по-скоро прокси – някакъв опит да се уязви някой – виждате го – този човек не може да пише. Същото е, ако има правописни грешки. Ако предадем един текст, който има правописни грешки, можем да го използваме като аргумент и да кажем, че този човек не си е свършил работата.

Такъв тип атака е сега. Прекомерното използване на изкуствен интелект наистина трябва да се заклеймява, особено когато е за авторски текстове или в лична комуникация. Например много хора – аз вече не мога да понеса, когато някой ми пише в лична комуникация, в чатове, и използва изкуствен интелект. Аз предпочитам да си пише бавно на клавиатурата, отколкото да ми предава страници с генериран текст.

Така че да – като общество трябва да се научим как да ползваме адекватно инструмента и как да не го ползваме."

Как да различим кой е писал един текст

"Първо, да започнем оттам, че тези инструменти, които казват дали даден текст е писан от изкуствен интелект или не, в огромната си част не работят така, както бихме искали. Даже е невъзможно, защото какво точно значи "писан от изкуствен интелект"?

Значи ли, че целият текст е генериран от една поръчка, с един промпт? Или че някой е дал на изкуствения интелект вече написан текст? Както аз, когато пиша с изкуствен интелект – първо нахвърлям структурата и текста, който искам да произведа, а после давам на модела да го направи на граматически правилни изречения. И сега това писане с изкуствен интелект ли е? Това е въпрос на нюанс.

Но да, има доста признаци. Между другото, един от най-хубавите източници е статията "Signs of AI Writing" в англоезичната Уикипедия, която е невероятна. Там редакторите на Уикипедия са подредили абсолютно всички признаци на различните модели. Тези признаци са много – от неща, които познаваме добре, като дългите тирета, хубавата граматика и хубавия правопис, защото повечето хора правят грешки, а изкуственият интелект не прави правописни грешки. Също така има много завъртени изречения. Има и една структура, която мен лично много ме вбесява, когато все повече и повече се появява и хората започват да я ползват – тези инверсни антитези от типа: "Това не е разговор по радиото, това е началото на един нов диалог". Такъв тип структури моделът по някаква причина много обича.

Така че има много знаци, които биха подсказали, че даден текст е генериран от ИИ."

За халюцинациите и отговорността

"Това е така наречената халюцинация, която е най-големият риск. Би трябвало да е непростимо някой да предаде или публикува текст, който съдържа халюцинации от изкуствения интелект. Това означава изкуственият интелект да дезинформира или да си съчинява факти, неща, които не съществуват. Тук идва отговорността – и редакционната отговорност, и нашата собствена като автори на текста.

Всъщност човекът се превръща в своеобразен редактор, защото ние ставаме редактори на това, което изкуственият интелект произвежда. Тоест носим редакционна отговорност за текста, който публикуваме или изпращаме. Има и редакционна отговорност на медиите, които публикуват такъв текст.

Тук се случва критиката на господин Дачков. Не съм съгласен с нея, но тя е отправена както към автора, така и към редактора и към медията, която също носи отговорност за текста, който се публикува. Тази отговорност трябва да се взима много насериозно и трябва да е непростимо да се публикува текст, който има фактологични грешки, произведени от изкуствен интелект.

Защо това е риск. Защото – това, което наричаме халюцинации, е практиката на изкуствения интелект да си измисля факти и да ги представя по много достоверен начин. Това е нещо ново и затова малко се опасяваме от него.

Защото хората, когато лъжат или когато си измислят факти, се опитват да ги представят по възможно най-неконкретния начин, за да не ги хванат. Докато изкуственият интелект прави точно обратното. Той може да си измисли автор, заглавие на книга, референция, линк към някакъв сайт, които да не съществуват, но изглеждат много достоверни за хората, ако те не са ги проверявали. Тоест пак не можем да им се доверим само защото изглеждат достоверни."

Нали ИИ знае всичко

"Там е голямата грешка, защото машината не знае всичко. Не знае каква е температурата в стаята, в която се намираме в момента. Защото е видяла данни отпреди месеци в най-добрия случай и няма достъп до сензор, който измерва температурата в стаята в този момент.

Тя има сумата от голяма част от човешката история и човешкото знание, но не знае фактите от настоящето. По единствения начин може да ги знае, ако има достъп до актуални данни или до сензори, които да я информират. Всъщност по-новите архитектури за работа с изкуствения интелект са точно такива. Имаме модел, който може да интерпретира информация, но трябва да го вържем към достоверни източници на актуална информация, за да може да бъде полезен."

Как трябва да реагира обществото?

"Ако трябва да обобщим, за мен първото нещо е да приемем, че все повече и повече хора пишат с изкуствени интелекти и че тези инструменти им помагат да генерират текст. Трябва да се оценява текстът сам по себе си – като качество и като достоверност, а не по външния признак дали е участвал изкуствен интелект в написването му.

Има много конкретен пример в момента с българоезичната Уикипедия и с другите уикипедии. Те са пропищели от редактори, които произвеждат неконкретен текст с изкуствен интелект и генерират много работа на опитните редактори, които после ги поправят. Но едновременно с това в българоезичната Уикипедия преди две седмици генерирахме 600 нови статии за биологични видове, където изкуственият интелект участваше много активно в процеса и те са с високо качество. Просто защото знаехме как да използваме инструмента и как да го настроим.

Хората трябва да оценяват качеството на един текст спрямо това как изглежда той в действителност, а не дали е участвал изкуствен интелект.

Аз прочетох текста на Мартин и в него има някои стилистични особености, които не ми допадат много. Все пак момчето е на 18 години. Но няма халюцинации, няма сбъркани числа и факти, които изкуственият интелект да си е измислил. Това за мен означава, че няма проблем."

Целия разговор на Николета Атанасова с Никола Тулечки може да чуете в звуковия файл.