Чи може штучний інтелект на кшталт ChatGPT перетворитися на тоталітарний механізм, генератор пропаганди й кіберсолдата? Колонка Сергія Жданова 

Дослідників технологій часто поділяють на технооптимістів (тих, які вірять у покращення життя завдяки техносектору) та технопесимістів (тих, які впевнені, що технології мають негативний потенціал). Філософ технологій і автор телеграм-каналу Чорт ногу сломит Сергій Жданов вважає себе технореалістом і перебуває між цими двома полюсами. Раз на тиждень спеціально для Заборони Жданов осмислюватиме останні події техносвіту. Перша колонка присвячена ChatGPT та, ширше, штучному інтелекту (ШІ) — і тому, як відсутність цінностей у розробників може перетворити ШІ на тоталітарний механізм чи кращого за бойових роботів солдата.

Кремнієва долина цілковито забула те, що ще недавно вважалося «майбутнім наяву»: метаверс, криптовалюти, NFT, AR і VR — усе це тепер у минулому. Сьогоднішнє майбутнє — це ШІ, а точніше великі мовні моделі (LLM), серед яких безумовним лідером вважається ChatGPT від лабораторії з Сан-Франциско OpenAI.

В Америці розгорнулася конкуренція компаній-творців ШІ. Сатья Наделла, СЕО компанії Microsoft, яка об’єднала свої потужності з OpenAI, розбурхав техноспільноту, відкрито кинувши виклик Google, який донедавна вважався безумовним лідером у сфері ШІ. Наделла заявив, що Google тепер потрібно доводити, що вони все ще «вміють танцювати». Google, Amazon і Meta — усі великі технокорпорації включилися в ці перегони й справді затанцювали в авральному темпі рейву. За останні два тижні кожна корпорація випустила або посилила власну нейромережу, аналогічну ChatGPT, — Bard, Sagemaker та LlaMa відповідно.

Техногіганти поспішають зірвати максимальний куш із чат-ботів, поки хайп ще гарячий. Відповідно до концепції капіталізму, шалена конкуренція виробників має обернутися поліпшенням продукту та збільшенням вигоди споживачів. Але коли цей продукт — штучний інтелект, то виникають нові проблеми, яких не було за часів прискореного виробництва автомобілів чи персональних комп’ютерів: творці нейромереж не розуміють до кінця, що саме вони створили, і що кращий ШІ, то менше його розуміє людина.

Результатом нейромережевих перегонів має стати створення AGI (artificial general intellegence, або сильного ШІ) — універсальної нейромережі, яка в рази перевершує людське мислення. Помилки під час роботи над такою технологією матимуть куди серйозніші наслідки, ніж під час проєктування телефона чи літака.

Уявіть собі, якби над розробкою та застосуванням атомних бомб працювали не держави, а комерційні компанії, які прагнуть хоч би там що обігнати конкурентів і максимізувати прибуток. Якими б могли бути наслідки таких корпоративних атомних перегонів (і чи було б кому про них писати)?

Ніби за свистком, до нейромережевих перегонів долучився й Китай. У нульових Китайська партія заборонила в Піднебесній роботу Google, Facebook та Twitter, щоб дати китайським аналогам змогу зайняти нішу — так з’явилися гіганти Baidu, WeChat і Weibo. Технопротекціонізм — витіснення іноземних компаній — також допоміг Партії добитися ціннісного суверенітету: пильно контролювати інформацію, яка циркулює в інтернеті, й поширювані там наративи.

Тепер ця історія повторюється вже з ШІ: Партія забороняє китайським компаніям користуватися американськими нейромережами, як-от ChatGPT. Такий бан потрібен передусім заради прибутку: великі мовні моделі (LLM) на кшталт ChatGPT обіцяють величезний дохід компаніям, що їх інтегрують: за певної вправності вони зможуть замінити більшість юристів, фінансистів, копірайтерів, рекламників та працівників служби підтримки однією нейромережею. Ну а корпорації, які ці нейромережі розробляють і використовують, матимуть максимальну вигоду. Без конкуренції з американським ШІ лідером нейромереж Піднебесної стане корпорація Baidu, яку колись називали «китайським Google»: її аналог ChatGPT — чат-бот Ernie — уже працює в усіх сферах діяльності корпорації, зокрема в автомобілях з операційною системою, і працюватиме на тисячі, десятки тисяч дрібніших китайських компаній. Мільярди доларів та трильйони юанів осядуть у Китаї.

Крім комерційного інтересу, Китай, який обмежує американські продукти, стурбований і контролем над ідеологемами. Китайський ШІ працюватиме за іншими законами, ніж американський: це позначиться насамперед на trust and safety layer — наборі правил та інструкцій, на основі яких нейромережа показує або не показує певний контент. Уряд Китаю — чемпіон цифрової цензури й керує однією з найбільш «ціннісно суверенних» країн світу. За жодних обставин він не міг би допустити своїх громадян до вільного спілкування з американським ШІ, заточеним під демократичні цінності.

Але не лише китайському уряду цінності американських нейромереж здаються проблемними. В оточенні Ілона Маска (ключової фігури у сфері ШІ та претендента на лідерство альтернативної політичної сили в США) проблему цінностей обговорюють на тлі поляризованості американського суспільства. Тепер нейромережі, зокрема ChatGPT, сповідують прогресивні цінності демократії, які в республіканців, консерваторів і лібертаріанців, густо представлених у техносекторі, часто викликають відторгнення.

Непрогресивна частина американської техноеліти потребує альтернативного trust and safety layer. Як звинувачення на адресу ChatGPT часто висувають нерівне ставлення нейромережі до різних політичних лідерів. Вірш про президента США Джо Байдена від ШІ буде хвалебним, а про Трампа нейромережа або відмовиться писати, або напише щось гидке. Та й самого Маска ChatGPT вважає «суперечливою і проблемною фігурою». На тлі таких розкладів консервативна частина техноеліти вже зневажливо звинувачує ChatGPT у wokeness — надмірній, як їм здається, соціальній свідомості. Ширяться чутки, що Маск проспонсорує створення антиwoke-нейромережі.

Усе це свідчить про те, що боротьба за визначення майбутнього ШІ точиться не лише між різними політичними та корпоративними системами, а й усередині самої демократії та просто між людьми, які так і не домовилися про те, що добре, а що погано.

Чому ці нейромережеві перегони не просто можуть виявитися — але виявляться — великою проблемою для всього людства?

Технологія ШІ перейшла до фази вибухового зростання, яку неможливо ні зупинити, ні сповільнити. Водночас творці технологій не розуміють до кінця, як вона працює і чого від неї чекати: вони сподіваються, що Deus Ex Machina і сам себе пояснить, і сам розбереться, що для нас усіх краще. Розходження потужностей технологій з людською (не)розумністю відбувається на тлі потворних, чого таїти, срачів між розробниками й експлуататорами технологій. Вони не можуть домовитися не лише про те, за якими цінностями та принципами мають працювати технології, а й де потрібно провести червону лінію, яка захистить ШІ від зловживань.

Політична ворожнеча (між США й КНР), ціннісні конфлікти (між лібералами й консерваторами) та панівна логіка глобального капіталу призведуть до того, що ця червона лінія зміщуватиметься, доки не станеться епізод, після якого ми жахнемося, на що здатний ШІ — і як ми проґавили таку очевидну небезпеку.

Наприклад, подумайте про роль ШІ в гібридній Третій світовій війні, що розгортається в нас на очах. Сьогодні ШІ лежить у самому серці конфлікту між автократіями й демократіями: наприклад, напруженість, пов’язана з цілісністю Тайваню, зводиться до відповіді на запитання про те, хто далі контролюватиме й використовуватиме найпросунутіші тайванські мікросхеми для створення ШІ — колективна західна демократія, як це відбувається тепер, чи східний авторитаризм?

ШІ-перегони між автократіями та демократіями вже вихлюпнулися на поле бою. Сьогодні ми бачимо, як демократичні ШІ, насамперед американська компанія Palantir, допомагають Україні вираховувати супротивника на полі бою, а завтра ми цілком імовірно побачимо поле бою, на якому вираховувати супротивника вже будуть автократичні ШІ. Тоді післязавтра розпочнеться війна ШІ — і вона буде спустошливішою, ніж усі відомі нам війни.

Автоматизована війна, яка не потребує участі (і загибелі) людей, — чудова фантазія. Але сучасна війна штучних інтелектів між собою розпочнеться набагато раніше, ніж стане можливою війна автономних роботів на полі бою. Суто технічно ми поки що не вміємо створювати роботів, які зможуть воювати замість людей, — найкраще, що є наразі, це умовно автономні танки й літаки. Однак війна ШІ може виглядати як злом і підрив атомних електростанцій, затоплення міст, блокування транспорту, знищення їжі й води — все те, що намагалася зробити РФ в Україні, але не за участі військових, а за допомогою коду, вірусів, які ШІ писатиме на льоту; щоправда, їх застосування призводитиме до кінетичних та гуманітарних наслідків. Якщо це виконуватиме ШІ, роботу якого ні розробники, ні військові, які запускають його в дію, не завжди зможуть пояснити, отже, вони не зможуть повністю його контролювати.

У 2015 році OpenAI з подачі Ілона Маска створювалася як non-profit компанія, що розробляє відкритий для всіх і прозорий ШІ, створений на благо суспільства, а не для отримання його творцями прибутку. Однак кілька років тому OpenAI змінила курс, націлилася на прибуток і 2023 року перетворилася на ультракапіталіста.

Чому те, що створювалося як доступне всім суспільне благо, перетворилося на закриту систему, яка існує заради прибутку? Певна річ, у творців компанії є розумні та зрозумілі причини: через конкуренцію з боку китайських ШІ-компаній, яким Партія дає необмежені кошти, або через змагання з іншими американськими компаніями, які переманюють до себе талановитих розробників. Та й узагалі, розроблення нейромереж потребує добрих грошей.

Утім, мені здається, що проблема все ж таки не в грошах, а у відсутності цінностей. Людство розробляє найпотужнішу технологію в історії, здатну перевернути весь світ догори дриґом, але саме не розуміє, навіщо воно її створює — чи просто тому, що може, чи заради грошей.

Хоча ШІ — дуже потужна технологія зі стрімким розвитком, просто зараз вона поки що «вчиться» на матеріалі, створеному людьми: від книг, фільмів та наукових звітів, від уподобайок і бажаного контенту звичайних користувачів у соцмережах — і до устрою світової політики та реакції світової спільноти на різні виклики. Найжахливіший приклад, який можна показати ШІ, — це жорстокі, агресивні війни.

Величезна сукупність справ людей від найменших до найбільших — це біґ-дата, якою просто зараз годують ШІ. Ми прийшли в точку, коли практично все, що робить кожна людина, позначається на тому, яким буде ШІ, його цінності й рішення, а отже, яким цей ШІ зробить наше майбутнє. Це означає, що кожен із нас бере участь у створенні технологічного майбутнього. Це означає, що заради себе та майбутніх поколінь ми маємо прагнути закласти в ШІ цінності, яким хочемо зберегти життя (і які хочуть зберегти життя).