Технопесимісти пропонують заморозити розробку штучного інтелекту (а деякі закликають бомбити дата-центри). Чому? Колонка Сергія Жданова

Раз на тиждень спеціально для Заборони філософ технологій і автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Останній місяць у ЄС та США дискутують, наскільки штучний інтелект має підпорядковуватися урядовому регулюванню, позаяк нейромережі можуть призвести до безробіття й поширення fake news. У попередній колонці Жданов писав про те, чому Сенат США стурбований діяльністю ChatGPT, а в цьому тексті — як держави контролюватимуть корпорації (якщо в них вийде) і чому деякі дослідники ШІ пропонують діяти жорсткіше — і бомбардувати дата-центри.

Хто має регулювати ШІ? Політики? Технокорпорації? Чи ми, прості користувачі? 

Останніми тижнями світова ШІ-спільнота обговорює найважливіше питання регуляції ШІ: як і, головне, хто має регулювати наймогутнішу технологію в історії людства. ШІ розвивається з такою швидкістю, що деякі учасники цих дебатів говорять, ніби вже пізно щось регулювати: потрібно одночасно зупинити всі ШІ-розробки, щоб наступні кілька десятиліть присвятити вирішенню проблем управління ШІ-сутностями, які найближчим часом мають стати розумнішими за людей. Але інша, куди вагоміша частина ШІ-спільноти далека від фаталістичного футуризму песимістів і ставиться до регуляції ШІ просто — як до питання розподілу влади й грошей.

Подумаймо для початку, хто взагалі може контролювати та регулювати ШІ: 

– ШІ-бізнес

Люди, які краще за інших знаються на технології ШІ. Вони зуміли перерозподілити доступні їм ресурси (обчислювальні потужності й дані) в такий спосіб, що в результаті вийшов ШІ на кшталт ChatGPT або Google Bard. 

ШІ-бізнесмени не зобов’язані відстоювати інтереси держав або суспільств, однак повинні максимізувати прибуток компаній та акціонерів, а також задовольняти користувачів, якими можуть бути і інші бізнеси, і громадяни, і держави. Регуляція ШІ для цієї групи — питання суто практичне: платити якнайменше податків та не мати проблем із законом країн, у яких працює їхній бізнес. 

– Державні службовці 

Для чиновників регулювання ШІ — складне питання, оскільки як клас вони не знаються на ШІ й не до кінця розуміють, на що він здатний. Однак навіть без занурення в питання вони бачать, що він обіцяє неабиякі проблеми — від безпрецедентних рівнів безробіття й економічних криз до політичних катаклізмів та міжнародних воєн. Тому чиновницький апарат ухвалив рішення: технологію треба терміново регулювати — звідси синхронність законодавчих ініціатив у різних країнах (про це ми поговоримо трохи згодом).

– Суспільство 

Це розрізнена група людей, що не має консенсусу бажань і спільних інтересів стосовно ШІ, але скрізь фігурує як єдина сутність, яку стараються обслужити ШІ-бізнесмени та чиї взаємини з ШІ намагаються зарегулювати політики.

У питанні ШІ суспільство — велика сила хоча б тому, що саме ми, користувачі з усього світу, створюємо дані й контент, необхідні для виховання просунутого ШІ. Не варто недооцінювати і суто технологічну значущість суспільства в цифрових питаннях: хоча більшість громадян розуміється на ШІ навіть гірше за чиновників, спільноти ШІ-ентузіастів, не прив’язаних до компанії чи країни, — грізна сила. Децентралізований, або народний, підхід до розвитку технологій лежить біля самих витоків інтернету й усього подальшого прогресу.

Показовою є, наприклад, історія індустрії кібербезпеки, яка в 1990-х починалася з хакерів-ноунеймів, що самостійно знаходили уразливості в коді найдорожчих і найавторитетніших корпорацій на кшталт Microsoft, а потім продавали інформацію про ці уразливості або самим корпораціям, або їхнім суперникам, або спецслужбам. Індустрія кібербезпеки показала державі й бізнесменам, що озброєні технологіями одинаки здатні втерти носа укомплектованим тисячами співробітників корпораціям та державним службам.

Як до регулювання ШІ ставляться ЄС, США та КНР? Дуже по-різному 

Отже, три сторони — держави, бізнеси й громадяни — нині обговорюють те, як потрібно регулювати ШІ. Обмовимося, народ поки що не бере участі в регуляції ШІ повноцінно: його час надійде, коли почнуться масові втрати робочих місць, а нейромережі стануть страхітливо потужними. Мені здається, важливо пам’ятати, що ШІ стосується всіх і кожного, зокрема звичайнісіньких громадян. Тому найменше, що можуть громадяни зробити, — усвідомлювати, що ця дискусія триває просто зараз.

Америка, Китай і Європа — три ключові гравці у сфері ШІ на рівні чиновників та держав. На початку квітня 2023 року Китай випустив чернетку закону, який регулює генеративний ШІ, Євросоюз — на початку травня, а в США поки що немає навіть чернетки закону, зате є гарячі дебати, як цей закон має виглядати. 

Китай, з його офіційною державною техноідеологією, сконцентрувався на питаннях відповідності ШІ своїм соціалістичним нормам. Неможливість контролювати американський ШІ на кшталт систем OpenAI з ідеологічного погляду призвела до бану західних систем у Піднебесній. 

Заборона на іноземний ШІ спрацює як фора для китайських ШІ-корпорацій на зразок Baidu й Alibaba, які вже відносно успішно розробили власні аналоги ChatGPT — Ernie та Tongyi Qianwen відповідно. Відразу зазначимо, що Китай — поки що єдина країна, чиї мегакорпорації наздоганяють американські в розробці ШІ-систем і навіть претендують на першість. 

ЄС у своїй чернетці Акта ШІ забороняє те, що дозволено в Китаї: наприклад, використання біометричних систем та систем розпізнавання облич у реальному часі без спеціальних дозволів із боку суду й поліції або ж заборона на створення соціального рейтингу (візитної картки Китаю, про яку Заборона писала тут) та предиктивного розкриття злочинів.

Загалом Європа не так налаштовується на розвиток власної ШІ-індустрії, як намагається уникнути апокаліптичних сценаріїв, до яких, очевидно, належить концепція соціального рейтингу, де ШІ визначатиме цінність людини, вирішуватиме, що їй можна, а що ні, а потім утілюватиме дозволи та заборони, оскільки точно знатиме, де перебуває людина, і зможе контролювати міське середовище й навіть її квартиру.

США, будучи безперечним технологічним лідером, особливо не дбають про законодавче регулювання технологій через віру у вільний ринок і наполегливе лобіювання представників технобізнесу, які твердять, що політики мають дати спокій інженерам. Напевно, багато хто здивувався, коли минулого тижня в США провели публічні сенатські слухання, де глава OpenAI Сем Альтман фактично запропонував і навіть попросив американський уряд регулювати ШІ-корпорації на кшталт його компанії (про це Заборона писала тут).

Недовіру до нерегульованого розвитку ШІ на засіданні висловив сенатор Джон Кеннеді: «Фракція берсерків у ШІ-ком’юніті може навмисно або ненавмисно використовувати ШІ, щоб убити нас усіх або нашкодити нам». Альтман погодився із загрозою та запропонував уряду видавати компаніям ліцензії на розвиток просунутого ШІ й суворо заборонити всю неліцензовану розробку та застосування. 

Хоча частина ШІ-середовища, сконцентрована на небезпеках ШІ, сприйняла пропозицію Альтмана з ентузіазмом, більшість стала дибки і звинуватила Альтмана в тому, що він намагається через маніпуляцію простакуватими сенаторами зацементувати лідерські позиції своєї OpenAI — його корпорація точно отримає всі потрібні ліцензії, однак це практично унеможливить появу нових компаній і конкурентів. Разом з Альтманом, який, окрім OpenAI, представляв своїх партнерів із Microsoft, на слуханнях виступала представниця компанії IBM і так само підтримала ідею з ліцензуванням, та й Google, якої на засіданні не було, теж цілком погоджується з такими регуляціями, оскільки це законодавчо закріпить за корпорацією лідерські позиції. 

Надзвичайно цікаву точку зору обстоює Meta Марка Цукерберга: компанія критикує ідею монополізації ШІ-розробок. Сила просунутих ШІ-моделей багато в чому визначається кількістю її параметрів: гуглівський Bard працює на 540 млрд параметрів, GPT-4 від OpenAI, за підрахунками фахівців (хоча компанія не розкриває цих даних офіційно), працює на 1 трлн параметрів, ну а китайський чемпіон Ernie від Baidu — на 260 млрд параметрів. 

На контрасті LLaMA, ШІ-модель Meta працює в проміжку від 7 до 65 млрд параметрів — у рази менше, ніж моделі провідних конкурентів. З усім тим, на основі цих безплатних моделей Meta незалежні розробники з усього світу (той самий «народ») створюють системи, які технічно перевершують деякі функції ШІ гігантів на кшталт OpenAI, Microsoft і Google! Цукерберг просуває модель edge-ШІ, коли замість централізованої ШІ-системи (як в Альтмана) працює система невеликих децентралізованих нейромереж, що запускаються не на центральних серверах, а працюють просто з пристроїв. Таку модель підтримує і Apple, яка розробляє для своїх пристроїв спеціально заточені під вміст ШІ мікрочипи. 

Однак хто б яку модель не пропонував і не намагався законодавчо обставити, усі без винятку представники ШІ-світу визнають, що ми стоїмо на порозі ШІ-катаклізмів, а роботи-вбивці — аж ніяк не єдина і не найстрашніша (поки що) перспектива.

Законодавців усіх країн лякає думка про те, що ШІ-терористи майбутнього, озброєні просунутими нейромережами, зможуть у домашніх умовах створити вірус із підручних засобів та отруїти 100 мільйонів людей або щось у цьому дусі. Але й це не найбільша небезпека.

Найвразливіші технопесимісти закликають бомбити дата-центри – усе, щоб уникнути Третьої світової війни через ШІ

Працюючи над цією колонкою, я натрапив на цитату Ілона Маска за 2017 рік. Тоді він коментував слова Путіна про те, що нація, яка лідируватиме у сфері ШІ, правитиме світом: «Китай, Росія, а скоро і всі країни з міцною комп’ютерною наукою. Змагання за ШІ-першість на рівні держав, найімовірніше, закінчиться Третьою світовою війною». 

Трохи пізніше Маск знову повторив цю думку, трохи видозмінивши її: Третя світова війна почнеться тоді, коли одна з країн розробить футуристичну ШІ-систему та спробує утримати іншу сторону від створення аналогів. 

Згадаймо ще раз, що потрібно для розвитку просунутих ШІ-систем:

Війна за користувацькі дані (data), необхідні для створення потужного ШІ, вже почалася. Саме в цьому ключі потрібно трактувати рекордний штраф ($1,3 млрд) за небезпечне поводження з користувацькими даними для Meta в Європі — у питанні ШІ не рятують навіть союзницькі відносини між урядами країн. Ще небезпечніше виглядає поширення бану на TikTok у Європі та США через побоювання, що соцмережа ділиться даними західних чиновників і користувачів з китайським урядом. 

І цілком очевидною виглядає війна за надпотужні комп’ютери (hardware), необхідні для створення просунутого ШІ, а точніше — за їхній ключовий компонент. Тайвань — головний виробник найпросунутіших мікрочипів у світі (компанія TSMC) і водночас одна з найбільш політично та військово напружених точок у світі. 

Не вдаючись в історію тайванського питання, можна узагальнити: заводи виробника мікрочипів TSMC є критично важливими для розвитку ШІ, а значить, для ШІ-наддержав — США й Китаю. Можна також сказати, що нині США мають кращий доступ до тайванських технологій, що багато в чому забезпечує їхню перевагу в перегонах ШІ перед Китаєм, а Китай хоче возз’єднатися з Тайванем і отримати повний контроль над виробництвом ліпших процесорів, щоб вирватися вперед. 

На жах самих тайванців, США та Китай настільки налаштовані на суперництво за напівпровідникові заводи острова, що один із планів американців щодо захисту Тайваню — пропозиція підірвати заводи TSMC, щоб Китаю не було чого захоплювати цю територію. Виходить, навіть якщо американці не зможуть допомогти Тайваню відбити теоретичне вторгнення китайців, вони готові власноруч нашкодити економіці 20-мільйонної країни, аби не віддати мікрочипи в руки головного ШІ-конкурента. Так виглядає регулювання ШІ у виконанні держав. 

Третя світова як ШІ-війна проглядається ще й через аргументи активістів на кшталт Елієзера Юдковського — головного ШІ-аларміста та проповідника цифрового апокаліпсиса. Він стверджує, що ми за пів кроку від розробки надпотужного ШІ, який знищить людство буквально відразу, як отямиться (і це станеться незабаром) — тому людська спільнота має укласти договір та зупинити ШІ-дослідження, щоб кілька десятиліть присвятити осмисленню механізмів регулювання ШІ. 

Якщо створення такого просунутого ШІ загрожує всьому людству зникненням, то Юдковському та його однодумцям здається логічним план знищити країну, яка надто близько підібралася до створення небезпечного ШІ. Він пише: «Відстежуйте продаж усіх процесорів. Якщо розвідка каже, що якась країна не виконує договору (зі стримування розробки ШІ) і будує кластер для утримання ШІ-системи, то не варто боятися війни між країнами, потрібно бути готовими розбомбити цей дата-центр авіаударом». 

Зрештою, все зводиться до дуже простої думки: регуляція ШІ неможлива без регуляції людей, а як регулювати людей, ми розуміємо ще гірше, ніж як регулювати нейромережі.