Розробник ChatGPT виступив перед Сенатом США. Сенатори стверджують, що ШІ розповсюдить fake news та безробіття. Чи це так? Колонка Сергія Жданова

Раз на тиждень спеціально для Заборони філософ технологій і автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Одна з найпомітніших нещодавніх подій техносвіту — виступ розробника ChatGPT Сема Альтмана перед Сенатом США, де припускають, що без стримувальних державних механізмів нейромережі можуть спричинити катастрофу. Чи нам теж потрібно переживати — усе в новій колонці. 

Цими днями Сем Альтман, голова компанії-творця ChatGPT OpenAI, виступив на слуханнях у Судовому комітеті Сенату, де відповідав на запитання американських чиновників про те, як регулювати ШІ. Перед засіданням Альтман надав комітету письмові свідчення, пролог до свого усного виступу, де серед іншого перерахував найпозитивніші, на його думку, кейси використання ШІ-технологій OpenAI:

Публічну частину слухань відкрив сенатор Річард Блументаль (точніше, аудіозапис із його голосом): «Занадто часто технології випереджають законодавче регулювання. Неприборкана експлуатація особистих даних, поширення дезінформації та посилення технологічної нерівності — ми бачили, як алгоритмічні забобони вкорінюють дискримінацію та упередження, а недостатня прозорість підриває суспільну довіру. Ми не хочемо такого у майбутньому». Потім уже сам Блументаль пояснив, що це не його голос, а дипфейк, скомпільований на основі його реальних публічних виступів, а текст самої промови написав ChatGPT. 

Засідання розпочалося з демонстрації можливостей ШІ та концентрувалося не на позитивному впливі нейромереж, а на загрозах, які вони несуть. До середини засідання слово взяв сенатор Джош Хоулі та позначив ці небезпеки так:

Коли ж самого Альтмана запитали про його найгірші страхи щодо ШІ, він підсумував: «Ми, технологічна індустрія, завдаємо суттєвої шкоди світу. Це може проявитися по-різному, але якщо ця технологія (ШІ) піде неправильним шляхом, це буде дуже неправильний шлях».

В ШІ-індустрії (до неї входять розробники ШІ, бізнесмени, журналісти, академіки та політики) є три умовні групи, які по-різному ставляться до ШІ. 

До першої групи відносять технопесимістів, упевнених, що ми стоїмо за крок до знищення людства руками автономного ШІ. Найяскравіший спікер цього крила — Елієзер Юдковський, який нещодавно запропонував бомбити data-центри, щоб урятувати людство від знищення нейромережами.

Друга група — технооптимісти. Для них ШІ — безумовне благо, яке ніколи не збунтується проти людини, а алармізм щодо нових технологій — типове упередження. Цей тип думок найяскравіше представляє видатний ШІ-вчений Ян Лекун, який працює на Facebook (чий CEO Марк Цукерберг у 2018 році віддувався перед тим самим Судовим комітетом сенату США за проблеми, які ШІ його компанії викликав в американській демократії). 

І, нарешті, третя група — технореалісти. Для них ШІ — настільки ж корисна, наскільки й небезпечна технологія. І небезпечна вона насамперед через те, що нею користуються люди — найнебезпечніші тварини на Землі. Ключові спікери цієї групи найстарші, на кшталт сенатора Блументаля, Джорджа Сороса та Генрі Кісінджера. 

Але і оптимісти, і реалісти, і песимісти сходяться на тому, що нам терміново потрібно розв’язати дві глобальні ШІ-проблеми: посилення дезінформації (або автоматизацію брехні) і вихолощування середнього класу через масові скорочення робочих місць на тлі роботизації всього.

Всі ці проблеми лежать не так у площині технологій, економіки та політики, як у площині людської психології: чому до моменту глобального тріумфу науки, яким є винахід просунутого ШІ, люди підійшли з такими архаїчними бажаннями та прагненнями? 

Чим штучний інтелект нагадує золоту рибку? 

Людство століттями вигадувало чарівні сутності, здатні творити дива за наказом людини. Одна з найвідоміших версій цього сюжету — казка про золоту рибку, яку я перекажу у варіанті, популярному на Буковині, забезпечивши її коментарями, які пояснюють, чому це насправді казка про ШІ. 

Дідусь упіймав ШІ-рибку, а вона й каже: «Що захочеш, то будеш мати. Лиш прийди і скажи: “Рибко да рибко!” Я прийду і дам тобі, що ти хочеш». Чи це не ChatGPT, підключений до голосових інтерфейсів типу Siri, якого викликають словами на кшталт «ok google»?

Дідусь просить, щоб вони з бабусею жили і все що треба мали, як це обіцяють сьогоднішні ШІ-оптимісти: безумовний базовий дохід, перемога над голодом, зникнення безпритульних — все завдяки ШІ. 

Потім дідусь просить «будинок добрий» (розумний будинок у нашій термінології), карету (автономні автомобілі Маска) і щоб люди кланялися (позитивний соціальний рейтинг) — і отримує, що просив. 

Зрештою дідусь вимагає у рибки, щоб він став царем, а його баба — царицею. Коли дідусь повертається додому, він бачить, що все стало як було: будинок на курячих ніжках та баба біля розбитого корита.

Проблема в цій казці, як і в багатьох подібних до неї, полягає не в рибці, яка готова виконати бажання, а в людській природі. По-перше, людям завжди мало благ, навіть якщо їх стає набагато більше. По-друге, люди не розуміють, чого вони насправді хочуть, тому часто отримують абсолютно протилежні їхнім бажанням речі. 

Штучний інтелект — це не одна, а ціла зграя казкових золотих рибок, здатних виконувати наші найпотаємніші бажання. Рибки щодня мутують і вчаться виконувати все складніші бажання, і вже зараз можуть творити чудеса — якщо люди зможуть придумати, про що таких ШІ-рибок попросити.

На відміну від казки, де старий ловить чарівну рибку зовсім випадково, в наш час ШІ-рибок вирощує особлива каста людей з технокорпорацій, які навчилися створювати глибокі озера (дата-центри та суперкомп’ютери), де розмножуються ШІ-рибки (алгоритми та нейромережі), чию магію автори самі не розуміють до кінця. 

Головний висновок, якого на слуханнях дійшли сенатори та Сем Альтман — згода, що ШІ потребує регулювання урядів та обережного поводження з боку його творців. Іншими словами, політики та ШІ-магнати домовилися, що керувати чарівними ШІ-озерами потрібно спільно. Їхнім законам і правилам підпорядковуватимуться найбільші ШІ-риби, а доступні звичайним людям дрібніші ШІ-рибки будуть суворо обмежені в можливостях.

А може, нейромережі швидше нагадують акул? 

Цифрова магія, що посилюється з кожним днем, — вірний інструмент для побудови справжнісінької утопії, де всі наші базові потреби автоматично задовольняються, а ми зайняті реалізацією творчого потенціалу, який щодня розуміємо все краще. Потрібно тільки правильно вибудувати ланцюжок бажань, які ми загадуємо ШІ-рибкам — і цифрова утопія настане.

Але натомість ми систематично загадуємо рибкам такі бажання, від яких світ і суспільство перетворюються на цифрову антиутопію семимильними кроками. Люди просять ШІ-рибок начаклувати їм інструменти для стеження, знаряддя для знищення та руйнування, машини для максимізації прибутку та автоматизації брехні. Є й інші, більш конструктивні бажання, переважно перелічені Альтманом у письмових свідченнях: ШІ-рибок просять зробити людей здоровішим, забезпечити їм якщо не безсмертя, то довголіття і продовжену молодість, навчити їх вчитися і вчити їхніх дітей, подолати голод та кліматичні кризи.

Проте негативні тенденції у поводженні з ШІ забарвлюють позитивні аспекти в похмурі тони. Наприклад, якщо в основі ШІ-зації людства лежатимуть невірні передумови, то ШІ-репетитори виховуватимуть дітей цифровими фашистами, заточеними на те, щоб знищувати таких самих цифрових фашистів із сусідніх країн. 

Замисліться на секунду, що саме Євген Пригожин, якого ми зараз знаємо як масового вбивцю та власника ПВК «Вагнер», одним із перших проексплуатував можливості ШІ соцмереж для того, щоб втрутитися у вибори президента США у 2016 році. Його фабрика тролів та дезінформаційна агенція, звичайно, була не настільки технологічною, як британська Cambridge Analytica, проте пригожинські боти та тролі допомогли Трампу стати президентом. Саме це хвилює американських сенаторів, які допитували Альтмана і вимагали запевнення, що новий ШІ в руках пригожиних не зруйнує демократію і не зірве вибори президента США-2024.

Пригожинські тролі працювали не лише над дезінформацією під час виборів в інших країнах — вони обробляли російське населення та сприяли створенню ідеології рашизму. Жорстокість росіян, підтримка Путіна та війни — значною мірою результат алгоритмічної ШІ-влади в поганих руках, якщо врахувати, що десятки мільйонів росіян понад 15 років оброблялися не лише телевізійною пропагандою, а й політично зарядженим ШІ соціальних мереж «Вконтакте» та «Однокласники», а також пошуковика Yandex. За допомогою ШІ попереднього покоління (пошуковиків, соцмереж та ботів) путінський режим зумів створити суспільство, в якому чорне називають білим, яке підтримує масові вбивства та репресії, якому весь світ здається злим, а воно саме — праведним, пропри всі вбивства та насильство.

Я вважаю, що головний квест нашого часу — придумати для ШІ-рибок якомога більше конструктивних і по-хорошому чарівних завдань. Як мінімум для того, щоби врівноважити мінуси від того, що ШІ-рибки вже слухають параноїків і виконують їхні деструктивні бажання.