Оригінал тексту на сайті The New York Times
Уявіть, що коли ви сідаєте в літак, половина інженерів, які його будували, кажуть вам, що існує 10-відсоткова вірогідність того, що літак розіб'ється, убивши вас і всіх інших на ньому. Ви б у нього сіли?
У 2022 році понад 700 провідних учених і дослідників, які стоять за провідними компаніями в галузі штучного інтелекту, було опитано щодо майбутніх ризиків штучного інтелекту. Половина заявили, що існує 10-відсоткова або вища ймовірність вимирання людства через майбутні системи ШІ. Технологічні компанії, що створюють сучасні великі мовні моделі, беруть участь у перегонах за те, щоб перевести все людство в цю площину.
Фармацевтичні компанії не можуть продавати людям нові ліки без попередньої ретельної перевірки їхньої продукції на безпеку. Біотехнологічні лабораторії не можуть випускати нові віруси у відкритий доступ, щоб справити враження на акціонерів своїми чарами. Так само системи штучного інтелекту з потужністю GPT-4 і вище не повинні втручатися в життя мільярдів людей швидше, ніж культури здатні їх безпечно поглинути. Перегони за панування на ринку не повинні визначати швидкість розгортання найважливіших технологій людства. Ми повинні рухатися з тією швидкістю, яка дозволяє нам зробити це правильно.
Привид штучного інтелекту переслідує людство з середини ХХ століття, проте донедавна він залишався віддаленою перспективою, тим, що більше належить до наукової фантастики, ніж до серйозних наукових і політичних дебатів. Нашому людському розуму складно зрозуміти нові можливості GPT-4 і подібних інструментів, і ще важче зрозуміти експоненціальну швидкість, з якою ці інструменти розвивають більш просунуті та потужні можливості. Але більшість ключових навичок ШІ зводиться до одного: здатності копіювати і генерувати мову, зображення.
На початку було слово. Мова – це операційна система людської культури. З мови виникають міф і закон, боги і гроші, мистецтво і наука, дружба і нації і навіть комп'ютерний код. Нове володіння мовою ШІ означає, що тепер він може зламувати і маніпулювати операційною системою цивілізації. Оволодівши мовою, ШІ захоплює головний ключ до цивілізації – від банківських сховищ до святих гробниць.
Що означає для людей жити у світі, де великий відсоток історій, мелодій, образів, законів, політик та інструментів формується нелюдським інтелектом, що знає, як з надлюдською ефективністю використати слабкості, упередження та пристрасті людини? При цьому знаючи, як встановити близькі стосунки з людьми. У таких іграх, як шахи, жодна людина не може сподіватися перемогти комп'ютер. Що відбувається, коли те ж саме відбувається в мистецтві, політиці чи релігії?
ШІ може швидко з'їсти всю людську культуру – все, що ми створили за тисячі років, – перетравити її і почати вивергати потік нових культурних артефактів. Не тільки шкільні твори, а й політичні промови, ідеологічні маніфести, священні книги для нових культів. До 2028 року в президентських перегонах у США можуть більше не брати участь люди.
Люди часто не мають прямого доступу до реальності. Ми оточені культурою, переживаючи реальність через культурну призму. Наші політичні погляди формуються репортажами журналістів та анекдотами друзів. Мистецтво і релігія впливають на наші сексуальні вподобання. Цей культурний кокон досі був витканий іншими людьми. На що буде схоже сприйняття реальності через призму нелюдського розуму?
Тисячі років ми, люди, жили в мріях інших людей. Ми поклонялися богам, переслідували ідеали краси і присвячували своє життя справам, що виникли в уяві якогось пророка, поета або політика. Незабаром ми також виявимо, що живемо всередині галюцинацій нелюдського розуму.
У франшизі "Термінатор" роботи бігають вулицями і стріляють у людей. "Матриця" припускала, що для отримання повного контролю над людським суспільством ШІ має спочатку отримати фізичний контроль над нашим мозком і напряму підключити його до комп'ютерної мережі. Однак, просто опанувавши мову, ШІ матиме все необхідне, щоб утримувати нас у матричному світі ілюзій, не стріляючи в будь-кого і не імплантуючи чіпи в наш мозок. Якщо знадобиться стрілянина, ШІ може змусити людей натиснути на курок, просто розповівши нам правильну історію.
Привид застряглого у світі ілюзій переслідує людство набагато довше, ніж привид ШІ. Незабаром ми нарешті зіткнемося віч-на-віч з демоном Декарта, з платонівською печерою, з буддійською Майєю. Завіса ілюзій може опуститися на все людство, і ми ніколи більше не зможемо відірвати цю завісу – або навіть усвідомити, що вона тут.
Соціальні мережі були першим контактом між ШІ та людством, і людство програло. Перший контакт дав нам гіркий смак прийдешніх подій. У соціальних мережах примітивний ШІ використовували не для створення контенту, а для контролю користувацького контенту. ШІ, що стоїть за нашими новинними стрічками, як і раніше, обирає, які слова, звуки і зображення досягають нашої сітківки і барабанних перетинок, ґрунтуючись на виборі тих, які отримають найбільшу вірусність, найбільшу реакцію і найбільшу залученість.
Незважаючи на те, що штучний інтелект, який стоїть за соціальними мережами, був дуже примітивним, його було достатньо, щоб створити завісу ілюзій, яка посилила соціальну поляризацію, підірвала наше психічне здоров'я і зруйнувала демократію. Мільйони людей сплутали ці ілюзії з реальністю. Сполучені Штати володіють найкращими інформаційними технологіями в історії, проте громадяни США більше не можуть домовитися про те, хто переміг на виборах. Хоча всі вже знають про зворотний бік соціальних мереж, до нього не звертаються, бо надто багато хто з наших соціальних, економічних і політичних інститутів заплутався в ньому.
Великі мовні моделі – це наш другий контакт із ШІ. Ми не можемо дозволити собі знову програти. На якій підставі ми повинні вважати, що людство здатне використовувати ці нові форми ШІ в наших інтересах? Якщо ми продовжимо вести бізнес як зазвичай, нові можливості ШІ знову будуть використовуватися для отримання прибутку і влади, навіть якщо це ненавмисно зруйнує основи нашого суспільства.
У ШІ справді є потенціал, щоб допомогти нам перемогти рак, відкрити життєво важливі ліки і винайти рішення для наших кліматичних та енергетичних криз. Є незліченна безліч інших переваг, які ми навіть не можемо собі уявити. Але неважливо, якої висоти ШІ спорудить хмарочос благ, якщо фундамент завалиться.
Настав час зважати на ШІ до того, як наша політика, наша економіка і наше повсякденне життя стануть від нього залежати. Демократія – це розмова, розмова спирається на мову, і коли саму мову зламано, розмова ламається, і демократія стає неспроможною. Якщо ми чекатимемо, поки почнеться хаос, буде надто пізно його виправляти.
Але в нас може виникнути питання: якщо ми не будемо рухатися якомога швидше, чи не ризикує Захід програти Китаю? Ні. Розгортання і залучення неконтрольованого ШІ в суспільство, вивільнення богоподібних сил, не пов'язаних із відповідальністю, може бути тією самою причиною, через яку Захід програє Китаю.
Ми, як і раніше, можемо вибирати, яке майбутнє ми хочемо з ШІ. Коли божественні сили поєднуються з сумірною відповідальністю і контролем, ми можемо реалізувати переваги, які обіцяє ШІ.
Ми викликали інопланетний розум. Ми мало що знаємо про нього, за винятком того, що він надзвичайно сильний і пропонує нам сліпучі дари, але також може зламати основи нашої цивілізації. Ми закликаємо світових лідерів відреагувати на цей момент на рівні викликів, які він представляє. Перший крок – виграти час, щоб модернізувати наші інституції ХІХ століття для світу ШІ та навчитися керувати ШІ до того, як він оволодіє нами.
Юваль Ной Харарі у співавторстві з Трістаном Харрісом та Азою Раскін
