Як війна в Україні схилила Кремнієву долину мілітаризувати ШІ (і чому ми побачимо техновійни вже найближчим часом). Колонка Сергія Жданова

Раз на тиждень спеціально для Заборони філософ технологій Сергій Жданов осмислюватиме останні події техносвіту. Цього разу — дилему, яка довго нависала над техногіками Кремнієвої долини: чи співпрацювати з військовими, знаючи, що технології можуть призвести до масових убивств. Війна в Україні довела, що мілітаризація штучного інтелекту необхідна, адже тим самим займаються автократичні режими на кшталт Китаю. Як довго техоносектор залишався пацифістичним, у який спосіб компанія Palantir допомогла ЗСУ досягти паритету з армією РФ і як цей факт мілітаризує американські технокомпанії — все це в новій колонці. 

Війна в Україні остаточно перехилила шальки терезів у дебатах про те, чи варто воєнізувати ШІ. Відповідь: однозначно так! Але так було не завжди.

Як культурна екосистема, Кремнієва долина багато років чинила опір союзу технокорпорацій зі спецслужбами й військовими — хоч демократичних, хоч авторитарних країн. Техногіки довгий час відмовлялися забезпечувати людей у військовій та поліцейській формах інструментарієм, яким здатні наділити добре навчені нейромережі або просунуті гаджети.

Один із найпоказовіших кейсів — корпорація Google, яка відмовилася працювати з урядом Китаю, тому що режим вимагав ввести в пошуковик цензуру. Пізніше через протести співробітників компанія відмовилася і від роботи з Пентагоном, зупинивши проєкт Maven — виробництво нейромереж, здатних розпізнавати військову техніку за відеоматеріалами з дронів так само, як ШІ розпізнає обличчя людей за матеріалами з відеокамер.

Та сама історія в Amazon, від якої публіка вимагала перестати допомагати міграційній поліції системами розпізнавання облич для вилову нелегальних мігрантів. Приблизно в той самий час працівники Microsoft протестували проти використання AR-шоломів HoloLens військовими, говорячи, що «не хочуть наживатися на війні» та «брати участь у вбивстві людей» (утім, як і навіщо військові збиралися використовувати шоломи, невідомо). Наприкінці 2022 року Amazon і Google знову зіткнулися з протестами співробітників через участь у проєкті Nimbus, у межах якого корпорації забезпечували ізраїльські спецслужби й військових хмарними обчисленнями та ШІ, завдяки яким можна відстежувати рухомі об’єкти, а також розпізнавати обличчя й мікроміміку людей (останнє допомогло б аналітикам вираховувати терористів перед терактом за напруженою мімікою, потовиділенням тощо). «Жодних технологій для апартеїду», — резюмували протестувальники, маючи на увазі палестинців.

Такі протести мають низову природу: протестують звичайні інженери, фахівці з етики технологій та інші працівники інтелектуального цеху, — але не топменеджмент. Керівництво технокорпорацій змушене співпрацювати зі спецслужбами — неважливо, йдеться про автократії на зразок РФ і КНР чи про демократії на кшталт США: рано чи пізно до технокампусів приходять силовики й вимагають «позичити» технології для затримання злочинців чи знешкодження осередку терористів. Усі знають про таку співпрацю, але воліють зайвий раз не згадувати про це публічно.

У взаємодії з військовими історія дещо відрізняється: керівництво американських технокорпорацій, з одного боку, намагається отримати контракти в оборонній сфері, а з іншого — раз по раз від них відмовляється, ніби відповідаючи на обурення своїх співробітників. Можливо, річ у тому, що допомогу військовим співробітники технокомпаній (та й широка публіка) сприймають як допомогу в масовому вбивстві, а у випадку зі спецслужбами технології начебто навпаки допомагають запобігати актам тероризму, воєнним конфліктам або промисловому й кібершпигунству.

Однак скрізь є винятки. У (відносно) пацифістському середовищі Кремнієвої долини особливе місце займала створена 2003 року ШІ-компанія Palantir: вони відразу відкрито співпрацювали і зі спецслужбами, і з американськими військовими й публічно зневажали пацифізм техноком’юніті. Головна рекламна афіша Palantir — вистежування за допомогою ШІ «терориста номер один» Усами бен Ладена, відповідального за атаки 11 вересня 2001 року. Або коли за допомогою нейромереж Palantir, які збирали дані про пересування бойовиків та аналізували поверхню доріг, американські військові навчилися виявляти й знешкоджувати саморобні бомби, закопані іракськими військовими на дорогах.

20 років по тому Palantir почала допомагати українській армії у війні проти РФ. Складні нейромережі Palantir працюють за досить простою схемою: збирають якомога більшу кількість даних про поле бою і супротивні сторони, накопичують їх в одному місці, загортають усе це в зручний інтерфейс та допомагають витягувати з даних корисні інсайти. В підсумку нейромережі ніби «підказують» українським військовим, куди вигідніше скерувати дефіцитний снаряд, щоб завдати максимальної шкоди противнику. Рішення про те, куди бити, ухвалюють самі військові — нейромережі Palantir працюють як їхній brain extenders (наче придаток мозку), збільшуючи когнітивні можливості через ШІ-аналіз і зручне подання максимально великої інформації.

CEO Palantir Алекс Карп, оцінюючи, як нейромережі його компанії проявили себе на полі бою в Україні, сказав: «Силу систем просунутих воєнних алгоритмів, що працюють на один бік конфлікту, можна порівняти із ситуацією, коли одна сторона має тактичну ядерну зброю, а інша — лише конвенційну. Іншими словами, Україні вдалося досягти паритету в боротьбі проти супротивника з ядерною зброєю завдяки силі алгоритмів».

Українська війна доводить, що алгоритми є одним із найпотужніших озброєнь у розпорядженні військових, а за найближчі 10 років військове значення нейромереж кратно збільшиться. Так ми опиняємось у ситуації, де воєнізованим ШІ, який Генрі Кіссінджер та Ерік Шмідт вважають чимось на зразок «цифрової ядерної зброї», торгують приватні компанії — стримувані, але не повністю підконтрольні урядам своїх країн і військовим. Моральні дилеми співпраці з владою Palantir вирішує роботою з «хорошими» країнами — тобто з демократіями, дружніми США. Однією з таких демократій виявилася і Україна, а Алекс Карп став першим великим західним CEO, який приїхав до воєнного Києва налагоджувати мости.

Ефективність нейромереж Palantir у руках українців (зокрема їх використання в операціях з деокупації Херсонської та Харківської областей) доводить тезу про те, що якістю можна перемагати кількість. Україна мала в рази менше військової техніки, ніж противник, проте завдяки алгоритмам, які допомагають використовувати цю техніку максимально ефективно, сили протиборчих сторін вирівнюються, а кількісна перевага втрачає актуальність.

Імовірно, ви чули про насадки, які постачають ЗСУ союзники, що роблять старі ракети та снаряди точнішими й далекобійнішими: так трохи старої військової техніки з невеликою сучасною надбудовою перемагає велику кількість старої військової техніки без такої модернізації. Те саме можна й сказати про армії загалом: менша армія, озброєна ультрасучасним ШІ, стабільно перемагатиме численнішу армію з відсталими нейромережами. Принаймні на це роблять ставку в Пентагоні, що цифровізується, одне з основних завдань якого — підготовка до можливої війни з Китаєм, що вчетверо перевершує США за населенням і, відповідно, за мобілізаційним потенціалом.

Війна України проти Росії, яка виявилася переконливою демонстрацією переваги демократичних технологій, зняла моральну дилему Кремнієвої долини щодо того, чи варто співпрацювати з військовими. Річ не тільки в тому, що найближчими роками, якщо не десятиліттями, військові бюджети збільшуватимуться, і в співпраці з військовими технокомпанії зможуть заробити десятки, а то й сотні мільярдів доларів. Геноцидна війна, розпочата Росією, намалювала в уяві західного світу переконливу картинку зла, проти якого треба боротися, відкинувши сумніви й моральні дилеми. А Україна, яка безпосередньо зіткнулася з цим злом, показала всьому світу, що стрімка цифровізація, зокрема використання спірних технологій на кшталт воєнізованого ШІ та дронів-убивць, — ефективний і відносно безпечний метод перемогти.

Сьогодні путінський персоналістський режим убиває людей та загрожує демократії, завтра це саме може почати робити вже китайська, технологічно просунутіша автократія, і технології — єдиний спосіб подолати її. Військові, здається, здобули впевненість у тому, що співпраця з технокорпораціями може бути вкрай ефективною та безпечною для них самих. Приватні воєнізовані нейромережі компанії Palantir працюють завдяки приватним супутникам Starlink Ілона Маска — і всі вони допомагають українським військовим та їхнім західним партнерам.

Компанія Маска, до речі, намагається прокреслити якусь червону лінію в такій співпраці, погрожуючи відключити Starlink в Україні в разі нашого контрнаступу — мовляв, його супутники можна використовувати для захисту, але не для нападу. Але це дебати радше про межі впливу самого Маска і про те, чи має він право впливати на політику урядів, яким продає свою технологію. Питання про те, чи можна використовувати супутниковий інтернет для керування дронами-камікадзе або застосовувати ШІ для вираховування та знищення максимального зосередження людей, уже закрите.

Творці ШІ, які погодилися на співпрацю з військовими, повністю усвідомлюють, який потенціал цієї технології буде реалізовано в найближчому майбутньому і як це позначиться на владі та компетенції військових, спецслужб і самих корпорацій. Нейромережі, такі як Palantir, поки що залишаються в рамках концепції «ШІ-кентавра» — гібрида людини та ШІ, в якому нейромережі ніби розширюють можливості людини, залишаючи її повністю відповідальною за все, що відбувається на полі бою. Але коли літаки, танки, БТР, дрони й самі системи типу Palantir стануть достатньо автономними, військові-люди перейдуть у роль ШІ-пастухів: доглядатимуть за вбивчим балетом автономних машин.

Чому ж насправді обурювалися працівники ШІ-корпорацій, які не бажали співробітництва їхніх компаній із військовим сектором? Відповідь проста: вони розуміли всю силу й потенціал штучного інтелекту, і їм було до нудоти страшно, коли уявляли, до чого призведе ця сила в руках людей, які вбивають одне одного. За допомогою ШІ можна побудувати ідеальні диктатури, влаштувати тотальну анігіляцію міста або провести зачистку цілих областей. Уже сьогодні зрозуміло, що поява сучасних воєнізованих нейромереж у порочних людей з авторитарними принципами — справа часу, до того ж найближчого.

Техногіки, які створюють передовий ШІ, — такі ж люди, як ми з вами: вони теж росли на «Матриці» й «Термінаторі». Тому такі концепції, як бунт машин, повстання роботів та рободемон Містер Сміт, для них також рідні. Вони йшли займатися ШІ саме з таким уявленням про те, на що ця технологія здатна і від чого нам потрібно вберегти себе.

Але в розпалі гібридної Третьої світової війни стало зрозуміло, що найбільша небезпека таки йде не від технологій, а від людей, які все ще справляються з диктатурами, геноцидами та масовими вбивствами без ШІ — а в разі перемоги використають його за цілком передбачуваним похмурим сценарієм. Ми досі перебуваємо на тому етапі, коли нам потрібні технології, щоб уберегти людство від найбільш схиблених його представників. Й етичні дилеми технологій знову відкладаються на післязавтра, коли, напевно, буде вже пізно.