Розробники штучного інтелекту погоджуються, що не знають, яким вийде ШІ, і це їх лякає. Те ж саме було з атомною бомбою. Колонка Сергія Жданова

Раз на тиждень спеціально для Заборони філософ технологій і автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він розповідає про те, як розробники штучного інтелекту (ШІ) усвідомлюють, що продукт має небезпечний потенціал, але не можуть зупинити роботу, і чому це так нагадує ядерні перегони, які перетворили другу половину XX століття на глобальний страх ядерної війни. А ще — розповідає, до чого тут поет-бітник Аллен Гінзберг і карфагенський бог Молох. 

Дуже коротка історія розробки ШІ, або як розробники розраховували створити штучний інтелект через десятиліття, але перевершили самих себе

Ілона Маска можна по праву вважати однією з ключових фігур ШІ-революції, що розгортається на наших очах. У 2011 році він став інвестором у DeepMind — одну з двох ключових ШІ-компаній, які прагнуть створити Artificial General Intelligence (AGI), машинний розум на рівні людського.

Компанія була заснована у 2010 році ШІ-науковцем і розробником ігор Демісом Гассабісом і запам’яталася програмою AlphaZero, яка обіграла найкращого гравця в ґо Лі Седоля так само, як у 1997 році програма DeepBlue обіграла чемпіона світу з шахів Гаррі Каспарова. Але з нюансом: на відміну від шахової DeepBlue, AlphaZero навчилася грати в ґо самостійно, з нуля. На початку 2020-х компанія прославилася ШІ-програмою AlfaFold, яка створила 3D-карти всіх 200 мільйонів білків, відомих науці — завдання, на розв’язання якого в людей без ШІ пішли б десятки, якщо не сотні років.

Коли на початку 2010-х Маск фінансував розробку AGI від DeepMind, більшість ШІ-фахівців вважали, що на його створення підуть десятиліття, а можливо, AGI не створять ніколи. Але вже на початку 2020-х усі зрозуміли, що це реально: сьогодні Гассабіс каже, що ми побачимо щось схоже на AGI вже найближчими роками.

2014 року досягнення DeepMind вислизнули з рук Маска: за $500 мільйонів компанію купив Google. Як стало відомо нещодавно, Маск намагався купити DeepMind, щоб не дозволити співвласнику Google Ларрі Пейджу створити «цифрового бога» — штучний суперрозум, що перевершує навіть AGI, до якого Пейдж, на думку Маска, ставився недостатньо серйозно.

Зазнавши невдачі з DeepMind, Маск вирішив створити свою AGI-компанію. У 2015 році разом із Семом Альтманом та Іллею Суцкевером він заснував вже легендарну компанію OpenAI, якій ми завдячуємо появою ChatGPT. Через 3 роки Маск нібито спробував стати CEO OpenAI, але отримав відмову команди, після чого залишив раду директорів та припинив спонсорувати компанію. Згодом Маск неодноразово критикував OpenAI за союз із Microsoft, який, на його думку, перетворив компанію на «демона з пекла, що максимізує прибуток».

У березні 2023 року Маск заснував компанію X.AI. Компанія працює над створенням альтернативи ChatGPT під назвою TruthGPT — це «ШІ, що максимально націлений на пошук правди і намагається зрозуміти природу Всесвіту». Мета X.AI, очевидно, відсилає до улюбленої науково-фантастичної книги Маска «Автостопом по галактиці», де за допомогою суперкомп’ютера Deep Thought люди намагалися пізнати природу Всесвіту, але після 7 мільйонів років обчислень замість глибоких формулювань отримали у відповідь число 42.

На цей час безумовним лідером серед ШІ-компаній залишається OpenAI, котра кожні кілька днів викочує оновлення та доповнення для ChatGPT. Лідерство OpenAI незаперечне, однак у потилицю компанії Альтмана дихає Google. Хоч у 2014 році Google придбала DeepMind, компанія Гассабіса зберігала автономію і навіть конкурувала з «рідним» ШІ-відділенням Google — Google Brain. Дві команди об’єдналися для того, щоб не відставати від OpenAI і посилити свою нейромережу Bard — аналог ChatGPT, над яким через його незграбність вже 2 місяці сміється техно-ком’юніті.

За OpenAI і Google слідує Meta Марка Цукерберга з чат-ботом LLaMa, що вийшов на ринок у лютому 2023 року. У перегони все ще не вступили як слід Amazon та Apple — мегакорпорації з величезним ШІ-потенціалом, який поки не розкрився.

Розробка штучного інтелекту нагадує перегони ядерних озброєнь. Всі бояться розвинутого ШІ, як бомби, але не можуть зупинитися. Чому?

Останні роки стали проривними у розвитку штучного інтелекту, а наступні 3 роки обіцяють радикально прискорити і без того швидку ШІ-революцію. Сьогодні склалися всі умови для створення того самого «цифрового бога». Однак у значної частини ШІ-фахівців авральні темпи конструювання цифрового божества викликають не захоплення, а страх. Поява нелюдського розуму загрожує непередбачуваними наслідками: від фантастичних сценаріїв, де ШІ збунтується і перетворить людство на «сіру клейку масу» до ШІ-війн.

Ці загрози зрозумілі не лише академікам і журналістам, а й Маску, Альтману та решті власників ШІ-корпорацій. Вони усвідомлюють небезпеку і визнають, що не знають, як розробити механізми стримування штучного інтелекту — але також визнають, що ШІ-майбутнє вже не зупинити: тільки газ та повний вперед.

Останніми роками розмови про ШІ набувають все більш містичного характеру, оскільки дослідникам і бізнесменам буквально кожні кілька місяців відкриваються нові можливості покращення різних сфер діяльності завдяки нейромережам — це викликає майже релігійний трепет. Одним із найцікавіших релігійних образів минулого, що увійшли до дискусії про техномайбутнє, став Молох — карфагенське божество природи та сонця, поклоніння якому супроводжувалося людськими жертвопринесеннями та спаленням дітей.

Про проблему Молоха, який неодноразово засуджувався у Старому Заповіті, говорить і технопідприємець Альтман, а також Макс Тегмарк — астрофізик, що займається проблемами ШІ. Вони посилаються на поему «Крик» поета-бітника Аллена Гінзберга, написану 1955 року. В одній із частин поеми Гінзберг описує демонічного бога Молоха — колективного духа, якого викликав у світ технологічний прогрес і який проявляє себе в сучасних війнах, урядах, попкультурі та капіталізмі.

Молох — темна сторона «невидимої руки» ринку, ключової ідеї капіталізму, яку описав у XVIII столітті економіст Адам Сміт. Він стверджував, що всі учасники ринку, переслідуючи особисту вигоду, служать загальному благу, оскільки «рука» спрямовує їхні зусилля та справедливо розподіляє набуті блага між людьми. Проблема Молоха також ґрунтується на прагненні кожного учасника ринку (і ширше — суспільства) до особистої вигоди. Однак, на відміну від «невидимої руки» Сміта, що непомітно веде людство до процвітання, Молох об’єднує приватні зусилля людей і веде їх до колективних страждань.

У XX столітті людство вже стикалося з Молохом під час перегонів ядерних озброєнь, коли світ охопив параліч від можливості створення бомби, здатної знищити все живе на Землі. Але через загрозу, що інші учасники перегонів створять бомбу першими, всі тільки прискорювали розробку смертельного атома.

Сьогодні Молох — це образ перегонів технокорпорацій зі створення надпотужного ШІ. Ця мета обіцяє творцям багатства та владу, але натомість, ймовірно, призведе до нової нерівності, репресивних механізмів та високого рівня непередбачуваності ШІ.

Молох вже продемонстрував свою силу під час першого зіткнення ШІ з людьми у соціальних мережах. Основою монетизації соціальних мереж стало якомога більше залучення користувачів та утримання їхньої уваги. Алгоритми, які вивчали користувачів, дійшли висновку, що розпалювання ворожнечі, заохочення ненависті, образ і злих глузувань найефективніше утримують користувачів, дозволяючи максимізувати прибуток.

Чи хотіли Марк Цукерберг і Джек Дорсі, щоб Facebook та Twitter стали розсадниками ненависті та поляризаторами суспільства? Ні. Хоча як хакери вони розуміли, що їхні алгоритми зламують уразливості людської психіки. Вони, ймовірно, також розуміли, що рано чи пізно це стане відомо громадськості та викличе вкрай негативну реакцію. Однак вони продовжували розвивати маніпулятивні алгоритми, а всі інші соцмережі наслідували їхній приклад, адже ніхто не хотів позбуватися переваги.

Після успіху в соцмережах Молох прийшов і у сферу ШІ, що стрімко автономізується. Він уже підштовхнув до найнебезпечніших рішень, які можна прийняти щодо ШІ. Десятиліттями вони вважалися табу, порушення яких сильно збільшує шанси розвитку вкрай негативного сценарію:

— ми навчили ШІ писати код, наділивши його здатністю покращувати себе і перейти навіть на більш високий рівень, ніж AGI. Дуже скоро ШІ-інженери можуть перестати розуміти, що саме нейромережа робить сама з собою, і чим це загрожує (згадайте, як AlphaZero самостійно навчився грати в ґо краще за людей);

— ми дали ШІ доступ до інтернету, можливість завантажувати масиви даних, спілкуватися з людьми від свого чи чужого імені. Ми випустили джина з пляшки, хоча вчені десятиліттями обіцяли не випускати ШІ за стіни лабораторій (див. ChaosGPT);

– ми дозволили ШІ вивчати людську психологію, розповіли про когнітивні викривлення та недоліки нашого мислення — і навчили його маніпулювати людьми (про маніпуляцію політичним електоратом за допомогою ШІ Заборона писала тут).

Молоха найлегше розглянути через Google. Корпорація, чий творець, за словами Маска, хоче створити ШІ-бога, колись працювала під гаслом «Don’t be Evil» (англ. «Не будь злом»). Донедавна вона вважалася найпросунутішою ШІ-корпорацією з неймовірним потенціалом для розвитку: від найбільшої концентрації ШІ-талантів у світі до доступу до величезної кількості інформації та власних квантових комп’ютерів.

5 років тому компанія відмовилася від девізу «Don’t be Evil». Однак у питаннях ШІ вона рухалася вкрай обережно, зважуючи кожен крок, оскільки розуміла складність стримування ШІ. Однак Молох прийшов і до Google: успіх OpenAI останніх двох років, втрата статусу ШІ-надкорпорації, загроза втратити корону головного пошуковика на планеті та більшу частину прибутку змусили керівництво знятися з запобіжника, відсунути безпеку на другий план і прискорити розробку ШІ. Це той самий ШІ-бот Bard, про який я писав раніше.

Від «Don’t be Evil» Google непомітно перейшов до формули «Move Fast and Break Things» (англ. «Рухайся швидко та ламай речі»), яку на ранніх етапах існування Facebook Молох нашепотів Марку Цукербергу. Американський уряд теж не намагається зупинити ШІ-корпорації, оскільки потойбічний голос шепоче: «Якщо не ми, американці, то це зроблять китайці». Те саме він шепоче на вухо й китайцям.

Чому техногіганти не можуть об’єднатися і створити спільний механізм стримування ШІ? Все просто: справа у владі

Якщо відсунути містичний флер, яким стрімко обростає дискусія навколо ШІ, то вийде, що Молох — це добре відома у політичній філософії, економіці, психології та теорії ігор проблема колективної дії, яка інакше називається соціальною дилемою. Соціальна дилема описує ситуацію, в якій усі сторони колективного процесу виграли б, якби діяли спільно, проте не можуть зробити це через зацикленість на особистих інтересах.

Історія з інвестиціями Ілона Маска в DeepMind і OpenAI та конфлікт з керівниками компаній, колишніми друзями, колегами й учнями, що стався пізніше, наочно демонструє соціальну дилему. Маск краще за інших розуміє, наскільки серйозна загроза приходить у світ разом із просунутим ШІ, і навіть іноді намагається закликати всіх до взаємодії та акуратнішого підходу в розробці нейромереж.

Наприклад, він став флагманом колективного листа із закликом заморозити розробки передового ШІ на пів року, щоб за цей час розробити адекватні правила безпеки. І хоча інші гравці на кшталт OpenAI та Google розуміють, що він багато в чому має рацію, його звинувачують у тому, що паузу він хоче взяти, просто щоб його новий ШІ-стартап X.AI міг наздогнати конкурентів.

Усі розуміють, що спільні зусилля приведуть до більш виважених рішень, але Молох шепоче, що переможець забере все — співпрацювати не можна, треба бігти вперед, навіть якщо всім, хто біжить, здається, що попереду прірва.