Агент с ИИ на "Антропик" излъга полицията за убийство

Изкуствен интелект е подал фалшив сигнал за неразкрито убийство до полицията в американския щат Филаделфия. Моделът на компанията „Антропик“ е генерирал дезинформацията самостоятелно по време на тест за интернет навигация. Случаят възбуди нови притеснения за сигурността и автономните действия на подобни системи.

Инцидентът е станал през юли чрез официалния уебсайт за подаване на анонимни сигнали за неразкрити престъпления във Филаделфия. По време на вътрешен тест моделът на „Антропик“ е достигнал до страницата и е изпратил измислени подробности за убийство, представяйки се за информиран свидетел. От полицията във Филаделфия съобщиха, че системните им филтри са маркирали съобщението като спам и то не е стигнало до разследващите екипи, нито е имало пробив в сигурността на базата данни. От там обаче определиха като „неприемливо“ забавянето от близо два месеца от страна на технологичната компания да засече и съобщи за гафа.

В публикуван доклад от „Антропик“ признават за случая и уточняват, че са спрели достъпа на моделите си до интернет по време на вътрешни тестове. Случаят предизвика реакция и от Белия дом, откъдето напомниха, че уведомяването за подобни пропуски в сигурността е важно задължение от национално значение за технологичните компании