Варненка създаде стандарт, помагащ на бизнеса да се подготви за работа с AI

Изкуственият интелект навлиза все по-активно в работата на компаниите, но много организации все още не са подготвени да го използват сигурно и отговорно. Това е причината експертът Мариела Славенова да създаде нов стандарт за оценка и развитие на организационната готовност за работа с AI.

Стандартът е разработен в отговор на новите изисквания на европейския Акт за изкуствения интелект, който задължава компаниите да осигурят обучение и AI грамотност на своите служители. От август тази година надзорните органи ще могат да извършват проверки и да налагат санкции при неспазване на правилата.

Целта е компаниите да могат да докажат своята готовност чрез подробна документация и сертификат, обясни Славенова.

Оценката се извършва в пет ключови области – хора, данни, процеси, управление и технологии. След анализ организациите получават доклад със силните и слабите си страни, както и конкретни препоръки за обучения и вътрешни политики.

Сред основните рискове при използването на изкуствен интелект остава изтичането на чувствителна информация. Според Славенова много служители качват в AI системи документи, съдържащи лични данни, договори или фирмена информация, което може да доведе до сериозни санкции и нарушения на правилата за защита на данните.

Тя предупреждава и за друг често срещан проблем -  т.нар. "халюцинации" на изкуствения интелект, при които системите генерират убедително звучаща, но невярна информация.

Най-важното правило е никога да не се качва чувствителна информация в публични AI платформи. Използвайте само данни, чието разпространение не би създало проблем за вас или за организацията, съветва експертът.

Новият стандарт е насочен основно към малките и средните компании, които тепърва изграждат политики и процедури за безопасно използване на изкуствен интелект.