Скок на ИИ съдържание със злоупотреба с деца във Великобритания

Масивен ръст на съдържание със сексуално малтретиране на деца, генерирано чрез изкуствен интелект през тази година във Великобритания, отбелязва "Internet Watch Foundation", предаде Би Би Си. Благотворителната организация, със седалище в Хистън, Кеймбриджшър, отчете 300 000 случая на сексуално малтретиране на деца в интернет през миналата година.

Броят на подадените сигнали за сексуално малтретиране на деца в интернет вече е надхвърлил общия брой от миналата година, каза Нгайре Александър, бивша полицейска служителка и ръководителка на горещата линия на фондацията в интервю за Доти МакЛеод от BBC Radio Cambridgeshire. "Вече дори не мога да нарека изкуствения интелект нововъзникваща заплаха; това е утвърдена заплаха в тази сфера", заяви Александър. Тя припомни, че законодателството определя материалите със сексуално малтретиране на деца, създадени от изкуствен интелект, като незаконни.

"Виждаме също така хора, които плащат за инструменти с изкуствен интелект или плащат на други хора, за да създадат съдържанието, което искат да видят... което е наистина, наистина тревожно."

Александър подчерта, че технологичните компании трябва да поемат отговорност за осигуряването на безопасност още при проектирането на своите продукти. По-рано този месец организацията съобщи, че през първата половина на тази година е открила повече фотореалистични изображения на сексуално малтретиране на деца, генерирани от изкуствен интелект, отколкото през цялата 2025 г., включително изображения на деца под две години.

За да се справи с този ръст, организацията набира двама допълнителни анализатори на интернет съдържание, които ще работят в офиса, а хората могат да сигнализират за материали, за които се подозира, че съдържат сексуално малтретиране на деца, на горещата линия на организацията, след което анализаторите оценяват законността и тежестта на това съдържание.