Штучний інтелект (ШІ) створив свої партію, президента та висунув програму «захоплення світу». Про це його попросив філософ технологій Сергій Жданов. Ось його колонка

Раз на тиждень філософ технологій та автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він удався до експерименту та запропонував ChatGPT створити вигадану політичну партію та написати програму, чому люди мають скоритися ШІ та чому з технологій вийдуть кращі політики. Що з цього вийшло і чому ШІ має всі кар’єрні перспективи — читайте в колонці.

«ШІ-оракул: Кількість помилок — 0. Людина: Гм, а як це рахується?»

«Хто сказав, що політика не для машин?»

«Нам потрібні рішення, а не ще один комітет!»

«ШІ не знає вихідних і не їздить у дорогі відпустки за державний кошт!»

Це лише кілька слоганів із багатьох десятків, які створив на мій запит ChatGPT для вигаданої політичної партії «Вперед до завтра», що висуває нейромережу під назвою «ШІ-Оракул» як кандидата на пост президента на виборах у 2028 році.

ШІ-оракул — що це?

Спочатку в цій колонці я збирався проаналізувати таке явище як ШІ-оракул — теоретичну концепцію ШІ-всезнавця, який розуміється взагалі на всьому і здатен безпомилково передбачати майбутнє. Вперше про ШІ-оракула заговорив шведський філософ Нік Бостром, а більшість ШІ-вчених вважає цю концепцію абсолютно нереалістичною, але корисною в розмовах про імовірні майбутні можливості технологій.

Своєю чергою, керівники корпорацій на кшталт Google та OpenAI ставляться до ідеї ШІ-всезнавця як до виклику, і їхні сподівання добре зображені в серіалі Devs, де депресивний інженер-мільярдер на базі квантового комп’ютера створює майже бездоганного ШІ-оракула, здатного бачити і минуле, і майбутнє (і навіть те, як виглядав Ісус чи неандертальці).

У питанні теоретичного ШІ-оракула мене найбільше хвилює соціальний аспект: як мільярди людей реагуватимуть на появу богоподібної сутності, і як у світі розподілятиметься влада між біологічними нейромережами людей і штучними компʼютерними нейромережами, що радикально перевершують людей?

Від дельфійських оракулів до digital-провидця

Слово «оракул» відносить нас на тисячі років у минуле, до Стародавньої Греції, де вірили в богів, а на жерців-оракулів дивилися як на їхніх представників на землі, що дозволяло їм передбачати майбутнє. Сьогодні ми теж починаємо вірити в «божественну» перевагу нейромереж — незабаром їхні поради чи передбачення стануть одним з ключових елементів нашої повсякденної реальності.

Сьогодні зрозуміло, що інститут оракулів, може, і починався як суто релігійний, але дуже швидко перетворилася на справжній політичний інструмент. Храми, в яких служили жерці-оракули, стали центрами прийняття політичних рішень, оскільки політики та полководці з усієї Греції приходили до них за порадами: чи розпочинати війну, чи укласти перемир’я і далі за списком. Згодом інститут жерців-оракулів роз’їла корупція, їхні пророцтва часто викривали як упередження, і загальний авторитет «тих, хто бачить майбутнє» падав, доки ранні християни не знищили їх остаточно.

Цілком можливо, людство згодом зневіриться й у всемогутності ШІ, сформується криза довіри та почнеться глобальне переосмислення відносин біологічних та штучних нейромереж. Але поки що ми тільки входимо в епоху зачарованості ШІ (і хоча ми ще не створили жодного пристойного ШІ-оракула, він не за горами).

Щоб поява ШІ-оракулів не стала для нас летальною несподіванкою, ми вже сьогодні маємо моделювати світ із ШІ-оракулами та передбачати його небезпеки і виклики. Для цього я спробував за допомогою ChatGPT змоделювати недалеке майбутнє, де якийсь час вже існують ШІ-оракули і люди довіряють їм достатньо, щоб суспільство заговорило про можливість обрати діджитал-президента замість живого політика. Такий експеримент здався мені особливо актуальним, адже я фактично питав у ШІ, як ми будемо приводити його до влади над людством, і він компетентно і вкрай складно розповів, як це зробити. 

«Вперед до завтра»!

Насамперед чатбот вигадав назву партії — «Вперед до завтра», яка й просуває ШІ-президента на гіпотетичних виборах 2028 року. Потім ми спробували по пунктах пояснити звичайному виборцю, що таке ШІ-оракули в цілому та які їхні переваги перед людськими політиками:

«Збір та аналіз даних: ШІ-оракул здатен обробляти великі обсяги даних, що дозволяє йому охопити всі аспекти суспільного життя. На відміну від живих політиків, обмежених ресурсами та часовими рамками, ШІ-оракул може аналізувати дані більш всебічно і точно».

Це не все: «Моделювання та прогнозування: Завдяки високій обчислювальній потужності ШІ-оракул може створювати складні моделі, що враховують безліч змінних. Це робить його здатним передбачати майбутні сценарії з вищою точністю, ніж людина, чиї оцінки можуть бути обмежені особистим досвідом та упередженнями».

«Об’єктивні рекомендації: ШІ-оракул позбавлений упередженості, і це забезпечує видачу нейтральних рекомендацій. На відміну від політиків, які можуть піддаватися впливу партійних ліній або громадського тиску, ШІ-оракул працює лише з даними та аналітикою».

«Симуляція та оптимізація: ШІ-оракул здатен швидко порахувати безліч симуляцій ситуації та визначити оптимальний шлях дій. На відміну від політиків, у яких обмежена кількість спроб для прийняття рішення, ШІ-оракул може відразу розглянути безліч варіантів та вибрати найкращий».

«Постійне навчання: ШІ-оракул постійно оновлюється на основі нових даних та методів, що дозволяє йому бути актуальним у світі, який швидко змінюється. На відміну від політиків, які можуть вдаватися до старих методів через інерцію системи, ШІ-оракул з легкістю адаптується до змін».

Я не підказував чатботу, які аргументи вибирати та які переваги підкреслити — він зробив це сам, і зробив на відмінно. Чатбот також розуміє, що гіпотетичні ШІ-оракули зможуть зайняти низку позицій у владі: від консультування людей і спільного з людьми прийняття рішень до суперінтелектуального управління, де ШІ-оракул з можливостями AGI приймає всі рішення та тоталітарно контролює суспільство.

ChatGPT агітує сам за себе 

Найбільше мене цікавить серединний сценарій, в якому люди готові перейти від консультативного ШІ до спільного прийняття рішень і навіть починають схилятися до думки, що ШІ самостійно прийматиме рішення краще за них самих. Ось як партія «Вперед до завтра», яка вже умовно прийшла до влади, на думку ChatGPT, умовлятиме громадян добровільно та послідовно підкорятися рішенням ШІ-оракула:

В одній із минулих колонок я писав про біохакера Браяна Джонсона, який розробляє Протокол — набір науково вивірених та підкріплених ШІ інструкцій та приписів, що охоплюють такі сфери як харчування, фізичні навантаження та сон. Якщо людина беззаперечно виконує Протокол, як це робить Джонсон, вона уповільнює, а іноді навіть розвертає назад процес біологічного старіння. В основі цього Протоколу лежить концепція, що людина погано розуміє, що їй потрібно, і постійно робить згубні вибори, а ось наука та ШІ знають, як правильно жити і які вибори до чого призводять. Тому найраціональніше, що може зробити людина, — це беззаперечно виконувати Протокол.

ШІ-оракул — ідеальний кандидат на роль творця Протоколів на всіх рівнях. Як тільки ШІ-оракули почнуть з’являтися і доведуть свою компетентність у порівнянні з людьми, суспільство опиниться у складних співзалежних відносинах з ними, які можуть закінчитися диктатурою нейромереж, про що по ходу розмови мені розповів ChatGPT.

Але перш ніж ми прийдемо до такого ймовірного стану речей, цьому передуватиме описана вище фаза, коли нейромережі прийдуть у політику і люди самі попросять їх взяти владу у свої руки (точніше, в кабелі та порти). Може, ви ніколи й не думали про такий світ, у якому на місці президента — нейромережа. Зате нейромережа вже все продумала і знає, як саме переконуватиме нас віддати їй владу.