Правоохоронці ЄС попереджають, що ChatGPT та інші генеративні системи штучного інтелекту можуть використовуватися для онлайн-шахрайства та інших кіберзлочинів. Про це пише Euractiv.
З моменту запуску наприкінці листопада ChatGPT став одним із найшвидше зростаючих інтернет-сервісів, перевищивши 100 мільйонів користувачів за перші два місяці. Завдяки своїй безпрецедентній здатності генерувати людиноподібний текст модель стала вірусною.
Великі мовні моделі, які можна використовувати для різних цілей, таких як ChatGPT від OpenAI, можуть принести користь компаніям та окремим користувачам. Однак Європол наголошує, що вони також є проблемою для правоохоронних органів, оскільки їх можуть використати зловмисники.
В чому проблема?
Правоохоронці вказують, що правила модерації ChatGPT можна обійти за допомогою так званої швидкої розробки, практики введення даних у модель ШІ саме для отримання певного результату.
Оскільки ChatGPT є відносно новою технологією, виявляються прогалини, незважаючи на постійне розгортання виправлень. Ці лазівки можуть приймати форму запиту ШІ на підказку, прохання вдавати вигаданого персонажа або надання відповіді в коді.
Інші обхідні шляхи можуть замінити тригерні слова або змінити контекст пізніше під час взаємодії. Орган ЄС наголосив, що найбільш дієві обхідні шляхи, що дозволяють зламати модель від будь-яких обмежень, постійно розвиваються та ускладнюються.
Видання зазначає, що експерти виявили безліч незаконних варіантів використання ChatGPT, які також зберігаються в просунутій моделі OpenAI – GPT-4, де потенціал шкідливих відповідей системи в деяких випадках був навіть вищим.
Оскільки ChatGPT може генерувати інформацію для читання, Європол попереджає, що нова технологія може прискорити процес пошуку зловмисника без попереднього знання потенційної сфери злочину, такої як злом будинку, тероризм, кіберзлочинність або сексуальне насильство над дітьми.
Там зауважили, що пошукова модель на базі ШІ може створювати код різними мовами програмування, розширюючи можливості зловмисників, що практично не знаються на ІТ-розробках, з перетворення природної мови на шкідливе ПЗ.
Раніше
У листопаді 2022 року для публічного користування був запущений чат-бот зі штучним інтелектом ChatGPT, розроблений компанією OpenAI. Він використовує модель обробки природної мови, яка дозволяє добре розуміти зміст написаного. І самому писати тексти так, як це робила б людина.
А також добре розуміє мову, якою спілкуються люди, і чудово вміє генерувати тексти, які непросто відрізнити від написаних людиною. До того ж ChatGPT може писати комп'ютерні програми, і вони працюють, хоч іноді і з помилками. Причому писати код може відразу кількома мовами: Python, Ruby, JavaScript, Java, C++, C# і Go.
18 лютого стало відомо, що чат-бот ChatGPT тепер доступний в Україні.
