Як людина й ШІ перетворяться на кіберкентавра, а мілітаризовані нейромережі — на рій комах? Колонка філософа технологій Сергія Жданова

Раз на тиждень спеціально для Заборони філософ технологій Сергій Жданов осмислює останні події техносвіту. Нова колонка — продовження роздумів про мілітаризацію штучного інтелекту й нейромереж, які в майбутньому перетворять усі компоненти військ на рій кіберкомах. А ще — як покращення армії може допомогти вдосконалити уряди та соціальні інститути (або, навпаки, перетворити все на антиутопію).   

Якщо ви ще не читали попередніх випусків, з ними можна ознайомитися тут і тут. 

ШІ-кентавр

Людський мозок — образний та буквальний натхненник для створення й розвитку штучного інтелекту. Нейромережі — це спроба вчених відтворити мережі нейронів. І хоча в нас поки що немає вичерпних знань, як улаштований мозок, саме наслідуючи біологічні нейромережі, ШІ досяг такого рівня розвитку, що його творці перестали повністю розуміти його логіку та роботу. Кумедно, але біологічний мозок створив нейромережі, щоб ті допомогли йому краще зрозуміти себе. Тепер штучні нейромережі працюють як розширювачі біологічного мозку — употужнюють роботу нашого інтелекту.

З розвитком технології з’явилася концепція ШІ-кентавра — щільного злиття людських нейронних мереж з їхньою штучною копією. Злиття відбувається через екранний інтерфейс за допомогою мов і жестів, але стартапи на кшталт Neuralink Ілона Маска обіцяють, що незабаром синтез біологічних та цифрових мереж буде опосередкований нейроімплантами, а отже, людський мозок з’єднається з ШІ фізично. Але навіть зараз, взаємодіючи з нейромережею у вигляді тексту на екрані комп’ютера, можна говорити про початкову стадію сплаву мозку з ШІ. Якщо продовжувати цю нейробіологічну метафору, то навіть такий неповний союз зумовлює невеликі еволюційні стрибки: експерименти показали, що в злитті з нейромережею Copilot програміст працює вдвічі швидше, ніж його колега без таких бенефітів.

Щоб штучні нейромережі-помічники розвивалися, їх потрібно перманентно покращувати, докручувати та налаштовувати. Наприклад, ШІ Copilot існує завдяки даним із репозиторіїв GitHub — мільйонів рядків коду, написаних звичайними програмістами з усього світу. Людський мозок і штучний інтелект проходять етап постійного обміну та взаємного навчання. Питання в тому, що кожна сторона винесе з цього процесу і чи буде це рівносторонньо вигідною співпрацею.

У попередній колонці я розповів про те, як ШІ допомагає організовуватися та працювати українським військовим, а минулого тижня у Wall Street Journal вийшла стаття CTO (chief technological officer, або головного інженера) Palantir Шіама Шанкара, де він повідомив, що в українській армії служать 300 тисяч IT-фахівців «світового рівня» [Шанкар не посилається на конкретну статистику, як і не називає, чи всі спеціалісти — українці, чи йдеться і про допомогу з інших країн — прим. ред.]. В очах цифрового капіталіста всі ці люди — унікальні людські нейромережі, здатні зливатися з кібернетичними нейромережами просто в окопах і в рази покращувати роботу військового ШІ.

Досвід війни (і загалом будь-який досвід) можна подати у вигляді даних, які через навчання змінюють роботу нейронних мереж мозку — а отже, їх можна використовувати для навчання відповідних штучних нейромереж. Досвід українських ІТ-військових неоціненний для military-tech: він уже лягає в основу розвитку воєнізованого ШІ. Знання реальних людей про нюанси війни перетворюватимуться на рядки коду, які покращуватимуть роботу різноманітних військових ШІ — так само, як код програмістів із репозиторіїв GitHub покращує роботу Copilot.

Військовий рій

У новенькій книзі «Four Battlegrounds: Power in the Age of Artificial Intelligence» фахівець із воєнізації ШІ Пол Шарр пише, що тепер й у найближчому майбутньому священним граалем і головною диво-зброєю будуть воєнізовані рої (swarms). Ведення війни за допомогою роїв з автономної та керованої людьми військової техніки називається свормінгом. Шарр описує його як «метод ведення боротьби, в якому безліч розрізнених елементів маневрують незалежно один від одного, але спільно, як частина єдиного цілого».

Згадайте мирний рій машин — наприклад, коли сотні побутових дронів з лампочками збираються у візерунок на масових заходах. Тепер сотні військових дронів складаються в бойові рої та синхронно штурмують позиції ворога. На думку американських і китайських теоретиків технологій, армія майбутнього має перетворитися на єдиний рій, у якому кожен дрон, патрон, генерал та піхотинець об’єднані в єдину систему — скоординовану й зосереджену на виконанні головного завдання під наглядом і за допомогою нейромереж.

Але погляньмо ширше. Компанія, армія та країна — системи біологічних нейромереж, об’єднані для виконання завдань загальними фізичними, юридичними, економічними й культурними законами. Якщо ШІ може поліпшувати управління армією, то чому б йому не поліпшити управління країною? У цій галузі алгоритми можуть здійснити ще більший переворот, ніж на полі бою.

Unit 8200 як ключ до соціальної утопії

Unit 8200 — це підрозділ ізраїльської військової розвідки, в якому служать юні техногіки з визначними здібностями. Військові починають шукати кадри в цей підрозділ ще серед старшокласників, які виявляють хист до математики та програмування. Служба в підрозділі може включати виконання бойових завдань у реальному й кіберпросторі, а також передбачає розробку, розвиток і застосування найсучасніших програм та технологій.

Типова історія члена 8200 звучить так: у 13 років захопився хакінгом, у 18 — потрапив до армії, у 20 — заснував перший стартап, у 25 — став мультимільйонером. Випускники підрозділу працюють у технокорпораціях та успішно займаються венчурними інвестиціями.

За допомогою обробляння великих даних і ШІ ізраїльські військові створили систему, яка дає змогу розпізнавати блискучий розум, прокачати його на службі та допомогти організувати бізнес. Щоб створити соціальний рій, такий підхід можна й потрібно буде поширити на все суспільство загалом: держава може алгоритмічно навчитися розпізнавати здібності та хист людей — і посилювати їхні можливості, щоб реалізувати ці таланти на благо собі й іншим.

Уявіть собі соціальний рій: спільноти не лише військових, а й мирних громадян, доповнені цифровими нейромережами для виконання соціальних завдань — від ремонту дороги до обрання політика. Такий метод організації може стати основою майбутньої цифрової демократії. Як, утім, і для цифрової автократії, тому протистояти автократизації ШІ — це ще одне завдання, яке нам потрібно вирішувати в розвитку технологій спільно.

Згодом — так само, як воєнізований ШІ Palantir аналізує маси людей, місцевість, продовольчі ланцюжки та ресурси для того, щоб військові могли ухвалювати максимально ефективні бойові рішення, — мирний цивільний ШІ аналізуватиме мирну реальність і, наприклад, рекомендуватиме, яку дорогу треба ремонтувати насамперед, кому терміново потрібна соціальна допомога і який бізнес підтримувати найважливіше.

Висновок

Сучасна війна — це напружена боротьба біологічних нейромереж за існування та домінацію за допомогою й під наглядом штучних нейромереж.

Прибульцеві, що залетів на Землю, цілком може здатися, що головна ціль, з якою людські нейромережі винайшли нейромережі цифрові, — у тому, щоб допомогти швидше знищити одне одного. Позаземцям доведеться як слід розібратися, щоб зрозуміти, що наша кінцева мета створення й виховання штучних нейромереж — допомога у встановленні миру та процвітання.

Можливо, ШІ справді допоможе нам швидше знищити одне одного. Але є ймовірність, що з часом він зможе підказувати, як правильно виховувати дитину, реабілітувати злочинця та заохочувати розумника. Щоб підвищити ймовірність того, що колективний симбіоз людських нейромереж із цифровими запрацює на загальне благо, нам усім разом доведеться дуже постаратися.