Не маєте балів — уряд не випустить вас із дому. Що таке режим соціального рейтингу made in China та чи варто нам боятися «цифрового рабства»? Колонка Сергія Жданова

Раз на тиждень філософ технологій та автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він пояснює, як працює режим соціального рейтингу, за яким усе життя людини вимірюється балами. Чи можливо стати героєм антиутопічної системи, як в Орвелла, де ви більше нічого не вирішуєте? Та є надія уникнути «китайського реаліті-шоу», і ось чому.

Уперше я ознайомився з ідеєю соціального рейтингу 1997 року: тоді я навчався в четвертому класі й багато разів крутив касету зі свіжим натоді блокбастером «П’ятий елемент». Головний герой на початку фільму — таксист Корбен з майбутнього, де машини літають, а за порушення правил повітряного руху робот автоматично знімає бали з його посвідчення водія. Якщо балів стане критично мало, Корбену заблокують право керувати автомобілем. Через 25 років цей образ абсолютно точно передає суть системи соціального рейтингу, яку будують у Китаї і, за моїми прогнозами, незабаром збудують у всьому світі.

Головна відмінність нашої ситуації від усесвіту «П’ятого елементу» в тому, що з нашим рівнем технологій уже не вийде вирвати ШІ-спостерігача з розетки та позбутися наслідків зниження рейтингу, як це зробив Корбен у фільмі.

Про соціальний рейтинг серйозно заговорили на початку 2010-х, коли стало відомо, що уряд Китаю виділяє великі кошти на створення єдиної бази даних громадян, щоб у реальному часі визначати рівень доброчесності приблизно 1400 мільйонів осіб. Ця система під назвою «система соціального кредиту», або «соціальний рейтинг», — один із «фірмових» проєктів Сі Цзіньпіна.

Китайська цивілізація та стиль управління вже кілька тисячоліть передбачають подібні системи соціальної оцінки й рейтингу громадян, проте у XXI столітті все вийшло на новий рівень завдяки інтернету й смартфонам. Якщо раніше досьє на громадянина складалося з аналогової фіксації його вчинків, характеристик від начальства та співробітників, а також набору базових біологічних параметрів, то тепер до цього додалися цілодобово оновлювані потоки інформації про його поведінку в інтернеті, переміщення, контакти, покупки, вподобання тощо. Даних про людину стало на кілька порядків більше, завдяки смартфонам та інтернету їх стало легше збирати, а завдяки хмарним комп’ютерам та ШІ — зберігати й обробляти їх у реальному часі.

У системі соціального рейтингу вчинки громадян впливають на їхнє становище в суспільстві: якщо людина порушує закони чи громадські норми, з неї знімають бали соцрейтингу, а якщо робить «похвальний вчинок» або просто сумлінно дотримується встановлених правил, бали нараховують. Якщо рейтинг громадянина падає нижче від певної позначки, він потрапляє до чорного списку — тоді на нього автоматично накладаються обмеження: система може заборонити людині з низьким соціальним рейтингом пересуватися потягом або літаком, позбавити її соціальних пільг і навіть заборонити залишати свій будинок. Натомість, коли рейтинг підіймається вище від певної позначки, громадянин потрапляє до списку «особливо добропорядних»: тоді система нагороджує його безплатними квитками, бере його дитину в хороший дитсадок без черги, а кредит у банку дає під менший відсоток.

Сьогодні 80% провінцій, регіонів та міст Піднебесної так чи інакше вже запровадили свої версії соціального рейтингу. Єдиного стандарту, як саме має працювати ця система, поки що немає, і в різних частинах Китаю працюють різні правила: десь влада намагається стимулювати бізнес-активність та дає «добропорядним» айтівцям усілякі бонуси, а в інших, навпаки, сконцентровані на покараннях і штрафують за неправильно викинуте сміття або за те, що хтось давно не відвідував літніх батьків. А ось в інтернеті соцрейтинг працює за універсальними правилами та впроваджує майже стовідсоткову цензуру: де б громадянин Китаю не жив, у якій би соцмережі не писав — у єдиному кіберпросторі йому заборонено критикувати «лінію Партії», інакше йому знизять соцрейтинг і покарають.

Для західних політиків та журналістів соціальний рейтинг швидко став синонімом авторитарного, навіть тоталітарного режиму — найорвеллівськішим проєктом сучасності, в якому Великий Брат Сі стає більшим з кожним днем. Як і належить диктатурі, режим соціального рейтингу в потенціалі дозволяє уряду повністю контролювати суспільне життя громадян. Але ж крім цього він дає абсолютний контроль і над приватністю людини: її браузером, листуванням, словами, дзвінками, пересуваннями, — тож він ще й потенційно тоталітарний.

Політика «нульового ковіду» — ще одна «фірмова» політика Сі часів пандемії, від якої він нещодавно відмовився, — показала всьому світу, як може виглядати наступна фаза системи соціального рейтингу. «Антивірусний» штучний інтелект автоматично надавав жителям Китаю кольорові статуси, що відображали рівень їхньої вірусної небезпеки для оточення: залежно від кольору (червоного, жовтого або зеленого), їм було дозволено або ні відвідувати торгові центри, користуватися метро чи взагалі виходити з дому. Про свій статус громадяни дізнавалися зі смартфона, і він міг змінитися в будь-який момент, якщо система вважала за необхідне. Прикриваючись боротьбою з вірусом, китайські силовики об’єдналися з технокорпораціями та встановили над громадянами тотальний контроль: наприклад, якщо «червоний» (тобто заражений вірусом) громадянин виходив з дому, хоча ШІ-система веліла залишатися всередині, за ним миттєво виїжджали поліцейські, а соцрейтинг автоматично падав.

Поміняйте «вірус» на «небезпечні ідеї», а «поліцейських» на «дрони» — й отримаєте картинку завтрашнього дня в режимі соцрейтингу Сі: якщо «червоний» (тобто хворий на небезпечні ідеї) громадянин виходить із дому, хоча ШІ-система веліла залишатися всередині, за ним миттєво вилітають дрони, а соцрейтинг автоматично падає.

Режим соціального рейтингу — одна з найсучасніших громадянських технологій, які, поки що неофіційно, Партія Сі експортує країнам-партнерам з Африки та Азії. Будь-яка зацікавлена країна може імпортувати розробку Партії: китайські інженери побудують data-центри, в яких збиратимуть, зберігатимуть і оброблятимуть дані громадян, встановлять програми для стеження, завішають вулиці та перехрестя розумними камерами спостереження, розроблять державний software із вбудованими можливостями стеження і так далі.

Путінський режим теж намагається побудувати інфраструктуру для власної системи соцрейтингу за допомогою китайських технологій і рухається до цього семимильними кроками. На відміну від КНР, у якій, крім політичних репресій, вимірювання «правильності громадян» намагаються використати для модернізації суспільства, путінський режим будує його виключно з воєнними цілями. Контроль потрібен для війни з іншою країною, тобто з нами, та для боротьби зі своїми «червоними» (а значить, не надійними для системи) громадянами, яких, як, мабуть, вважає занепокоєний кремлівський режим, ставатиме дедалі більше. Електронне голосування, мільйони камер стеження, служби з моніторингу й цензури соцмереж та інтернет-трафіку, армія державних ботів і тролів, з’єднання всіх баз даних громадян у єдину систему — всі ці інструменти вже в руках російського режиму і допомагають йому якомога швидше здійснити транзит з авторитарного до тоталітарного. Мобілізація, придушення опозиції, покарання росіян, що втекли, накачування мас патріотизмом і військовим чадом — все це перетворюється на питання software і hardware технологій у системі, де за кожним встановлено стеження, а тих, хто стежить, ніхто не обмежує в правах і владі над тими, за ким вони стежать.

Під час візиту до Москви на початку 2023 року Сі Цзіньпін фактично привітав Путіна з перемогою на майбутніх виборах, сказавши, що він «упевнений, що росіяни підтримають містера Путіна». Так далі і виглядатимуть розмови управлінців режимів соціального рейтингу: усі громадяни підраховані й прораховані наперед, від них не чекають жодних несподіванок — згодних уже вмовили, незгодних посадили, а для тих, хто сумнівається, приготували палицю. Але поки що це лише мрії автократів і диктаторів, які прийшли з минулого століття й намагаються осідлати нинішнє.

Демократичний світ чітко розуміє загрозу таких технологій, тому в ЄС нещодавно забанили спроби створення чогось подібного, а у США активісти борються проти зловживань технологіями, за допомогою яких може працювати соцрейтинг (наприклад, автоматичне розпізнавання облич). Крім того, що той порушує багато юридичних прав громадян, він також здатний дуже швидко перетворити цифрову демократію, яку будують на Заході, на той самий тоталітарний режим соціального рейтингу. Для цього достатньо одного демократично обраного президента в дусі Дональда Трампа, який за чотири роки своєї каденції встигне запустити соціальний рейтинг, придушити опозиційну лінію думки та загасити всі спроби населення діяти — тоді наступних виборів уже може просто не бути.

Щоби протистояти небезпекам соціального рейтингу, на мою думку, його не варто забороняти, як це намагається зробити Європа. Навпаки, треба залучати громадян для його побудови, адже демократичний соціальний рейтинг відрізняється від тоталітарного тим, що в першому є місце для дискусій, незгоди та колективних рішень. Натомість у режимі соціального рейтингу китайського зразка всі живуть «як скаже керівництво».