ШІ
Творці таких зображень використовують програмне забезпечення зі штучним інтелектом під назвою Stable Diffusion, яке було призначене для створення зображень для використання в мистецтві чи графічному дизайні.
Ця програма дозволяє користувачам описувати будь-яке зображення, яке вони хочуть, а потім вона генерує його. Але журналісти BBC виявили, що його використовують для створення зображень сексуального насильства над дітьми, зокрема зґвалтування немовлят.
Як поширюють цей контент
Дехто публікує ці зображення на популярній японській платформі соціальних мереж під назвою Pixiv, яку в основному використовуються художники манги та аніме. Але оскільки сайт розміщено в Японії, де поширення сексуалізованих мультфільмів і малюнків дітей не є незаконним, творці зображень використовують його для реклами.
Речник Pixiv сказав, що компанія приділяє величезну увагу розв'язанню цієї проблеми. Зокрема заявив, що компанія заборонила всі зображення сексуального контенту за участю неповнолітніх, які схожі на реалістичні.
Багато облікових записів на Pixiv містять посилання у своїх біографіях, які спрямовують людей на платформу Patreon, де можна оформити підписку.
"Нульова терпимість"
Водночас у Patreon заявили, що дотримуються політики "нульової терпимості" щодо таких зображень на своєму сайті.
А розробники Stable Diffusion кажуть, що забороняють будь-яке неправомірне використання в незаконних або аморальних цілях своїх програм, а їхня політика чітко визначає, що це включає матеріали сексуального насильства над дітьми.
Створення ШІ
У 2012 році Джефрі Гінтон разом із двома студентами створили нейронну мережу, яка змогла проаналізувати тисячі фотографій та навчитися розпізнавати звичайні об’єкти.
Google витратила 44 млн доларів, щоб придбати компанію, яку заснував вчений та двоє його студентів. Їхня система призвела до створення дедалі потужніших технологій, зокрема нових чат-ботів, таких як ChatGPT та Google Bard.
У 2018 році Джефрі Гінтон був серед тих, хто отримав Премію Тюрінга за свою роботу над нейронними мережами.
Що кажуть в ООН
Генеральний секретар ООН Антоніу Гутерреш підтримав пропозицію щодо створення міжнародного органу зі спостереження за штучним інтелектом за прикладом Міжнародного агентства з атомної енергії.
"Тривожні дзвіночки щодо останньої форми штучного інтелекту – генеративного ШІ – оглушливі. І вони найгучніші від розробників, які його створили. Ми повинні сприймати ці попередження серйозно", – сказав Гутерреш журналістам.
Він оголосив про плани розпочати до кінця року роботу над консультативним органом високого рівня з питань штучного інтелекту, який регулярно переглядатиме механізми управління ШІ і даватиме рекомендації щодо того, як вони можуть узгоджуватися з правами людини, верховенством права та загальним благом.