При съвет за здравето от ИИ трябва да внимаваме

Търсенето на съвет относно медицински симптоми от изкуствения интелект не винати помага на пациентите да вземат по-добри решения за здравето си, отколкото познатите стандартни методи за откриване на информация, сочи ново научно изследване, публикувано в Nature Medicine.

Изследователската група към Института по интернет на Оксфордския университет в сътрудничество с лекари е подготвила 10 различни сценария - от обикновена настинка до животозастрашаващ кръвоизлив. Три езикови модела - Chat GPT-4, Llama 3 и Command R+ са използвани без участието на потребителите, при което успели да определят даденото състоянията в близо 95 от случаите и избрали правилния начин на действие при 56% на сто. В друг експеримент близо 1300 души във Великобритания били поканени да използват или изкствен интелект или обичайни начини като търсене в интернет, своя практически опит или използване на уебсайта на Националната здравна служба. С помощта на изкуствен интелект съответните здравни проблеми били определени правилно едва в около една трета от случаите, а точните последващи действия при 44,2 на сто - сходен резултат с този на контролната група, използваща традиционни инструменти.

Проучването изважда наяве „огромната разлика“ между потенциала на изкуствения интелект и подводните камъни, които крие, при използването му от потребители. Оказва се, че хората често предоставят непълна или грешна информация, но понякога и самите големи езикови модели дават подвеждащи или неправилни отговори.