Дослідники штучного інтелекту (ШІ) називають його другим пілотом, який допомагає людям у роботі. А що як ШІ скоро зробить ко-пілотом нас? Колонка Сергія Жданова
Раз на тиждень філософ технологій та автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він замислюється, через які стадії пройшов штучний інтелект (ШІ), як з індивідуального помічника в роботі він перетворився на співавтора наших проєктів і як, імовірно, може стати рушійною силою, затьмаривши нас самих.
Фаза 1. ШІ-автопілот
Масова взаємодія людей зі штучним інтелектом розвинулася на самому початку XXI сторіччя, коли людство отримало доступ до швидкісного інтернету. Якщо наприкінці 1990-х, говорячи про інтернет, мали на увазі передусім веббраузери, через які можна було відвідувати сайти, то на початку 2000-х синонімом інтернету став пошуковик Google. Улюбленою відповіддю ранніх інтернет-користувачів на більшість запитань було «ти що, розучився гуглом користуватися?». Ішлося про те, що невігластву й гаданням доінтернетної епохи настав кінець: якщо чогось не знаєш, достатньо запитати в гуглу, сформувавши пошуковий запит, — і він приведе тебе до потрібних відповідей.
Що специфічніші знання шукав користувач, то просунутіші запити доводилося складати. Пошукові запити були ранньою формою взаємодії масового користувача з версіями пошукового штучного інтелекту. ШІ пошуковика спочатку навчився «розуміти» запити мільйонів користувачів з усього світу, які ще й розмовляють різними мовами, і знаходити у відповідь потрібну інформацію. Потім ШІ Google вирішив ще складніше завдання й розібрався в потребах мільйонів користувачів, щоб через інтернет-рекламу з’єднати їх з мільйонами підприємців. Рекламний ШІ, вихований на даних користувачів, зробив Google однією з найприбутковіших компаній в історії людства.
Ілюстрація: Катерина Круглик / Заборона
Наприкінці 2000-х Марк Цукерберг створив Facebook — першу глобальну соціальну мережу, де мільйони людей взаємодіють між собою під керівництвом ШІ. Алгоритми Facebook, як і алгоритми Google, швидко навчилися розуміти потреби людей та поєднувати їх із пропозиціями бізнесів, що прийшли рекламуватися в соцмережу. Але якщо пошукові алгоритми Google спеціалізувалися на відповідях на запити, то алгоритми розумної стрічки Facebook навчилися вгадувати й навіть формувати запити та потреби. Інтернет перетворився з місця, куди ти йдеш, якщо тобі щось потрібно, на місце, куди ти йдеш, щоб ШІ розповів, що саме тобі потрібно (а також про що варто знати, що любити та що ненавидіти).
Пошукові алгоритми Google з 2000-х можна вважати першим поколінням ШІ, алгоритми розумної стрічки Facebook з 2010-х — другим, а сучасні чатботи з 2020-х, на кшталт ChatGPT від OpenAI, — третім поколінням, яке поєднує в собі функції двох попередніх і пропонує щось принципово нове. Голова Microsoft Сатья Наделла так пояснює особливості сучасних чатботів: «Агрегація новин, механізми рекомендацій, YouTube, TikTok та інтернет-торгівля — все це ШІ. Сьогоднішній ШІ працює в режимі автопілота: це чорна скринька, яка диктує нам, на чому концентрувати нашу увагу. А ось ШІ нового покоління переходить із режиму автопілота в режим ко-пілота (або другого пілота), якого тепер спрямовує користувач».
Фаза 2. ШІ-ко-пілот
На відміну від роботів та нейромереж, у людей є воля та свідомість, завдяки яким вони хочуть щось створювати, руйнувати — змінювати світ відповідно до своєї волі та уявлень. Алгоритми ж просто продовжують волю та свідомість своїх творців, виконуючи їхні команди. Принцип автопілота, на якому працює ШІ першого та другого поколінь, — це бездумне продовження волі творця, виконання заздалегідь запрограмованих інструкцій. При цьому ШІ взаємодіє з мільярдами користувачів, які ніяк не можуть вплинути на правила, створені розробниками Instagram, YouTube та інших соціальних ШІ-платформ — користувачам доводиться підкорятися алгоритмам і, відповідно, розробникам.
Ілюстрація: Катерина Круглик / Заборона
Принцип ШІ-ко-пілота полягає в тому, що тепер користувач отримує реальну можливість особисто управляти ШІ (звісно, за умови, що він дотримується правил, заданих розробниками). Поява ко-пілотів означає, що кожен користувач матиме в розпорядженні особистого ШІ-асистента — нейромережу на основі чатбота, здатну виконувати доволі складні когнітивні завдання, допомагати користувачеві в його роботі, автоматизувати його рутинні справи й далі за списком функцій реальних асистентів. Користувачі ко-пілота отримують права та можливості управління, якими ще недавно володіла лише невелика каста інженерів із Кремнієвої долини. Сьогодні ми перебуваємо на самому початку переможної ходи ШІ третього покоління, і наразі повною мірою ко-пілоти доступні хіба що програмістам і частково вченим, а решта професій поки що тільки пробують взаємодіяти з пілотами — і від успішності цих спроб цілком залежить їхнє професійне майбутнє.
ШІ-пошуковик був прошарком між людиною та світом онлайн-інформації, алгоритмічна стрічка — прошарком між самими людьми, а ко-пілот стане прошарком для взаємодії людини з навколишнім світом, який стрімко змінюється й осучаснюється. Вже зрозуміло, що чати швидко замінять пошукові алгоритми початку 2000-х від Google: замість того, щоб відкривати браузер, формулювати запити й потім самостійно читати різні джерела в пошуках відповіді, можна буде вокально запитати ШІ-асистента — і він усе пошукає за вас, запакує отримані дані в зручну саме для вас оболонку і доповість приємним синтезованим голосом.
Якщо сьогодні ШІ-стрічки соцмереж вирішують за користувачів, який контент відфільтровувати, то найближчим часом наші особисті ШІ-асистенти фільтруватимуть соцмережі й показуватимуть нам тільки той контент, у якому ми зацікавлені, а не який нам хоче показати Meta. Втім, Цукерберг не тільки розуміє, що таке майбутнє неминуче, але й топить за майбутнє, в якому кожна людина матиме не одну, а відразу багато нейромереж-асистентів — і нейромережі Meta обовʼязково будуть серед них.
Фаза 3. ШІ-агент
Соціологія розуміє термін «агентність» (чи «агентивність») як здатність людей діяти незалежно й робити власний вільний вибір. З такої точки зору агентність ШІ-агентів обмежена — вони не можуть ні діяти незалежно, ні здійснювати власний вільний вибір і взагалі не працюють без волі власників. Але нейромережі можуть отримати певну міру агентності, якщо люди їм це дозволять.
Сьогодні нейромережі вже виявляють проксі-агентність — діють вільно від імені їх власника: наприклад, коли ШІ-асистент пише за свого господаря робочий лист і надсилає його без погодження або відповідає на дзвінки замість власника й не питає, що казати. Автономні бойові дрони ілюструють ще один вимір агентності ШІ: сучасним нейромережам дозволяють самостійно вибирати цілі та ухвалювати рішення про знищення життів.
Чи позначаться такі ШІ-агенти та ко-пілоти на агентності самих людей?
Ілюстрація: Катерина Круглик / Заборона
Інше визначення агентності з соціології — це здатність людей за допомогою влади та ресурсів реалізовувати свій потенціал. Ко-пілоти й третє покоління ШІ загалом у рази посилюють можливості для самореалізації: там, де раніше для реалізації задуму потрібна була команда з десяти осіб, тепер можна обійтися однією людиною з ко-пілотом. За такою логікою, там, де раніше був один корисний суспільству проєкт, тепер може з’явитися десять, тому що дев’ятеро осіб з першого проєкту втратять роботу через одного ко-пілота й зроблять свій новий проєкт з іншим ко-пілотом. І хоча навряд чи дев’ять людей, які втратили роботу, раптом перетворяться на підприємців, — не виникає сумнівів, що сьогодні в них з’являються нові можливості осідлати нейромережі та створити свій проєкт.
Одна з головних небезпек, які таїть у собі сама концепція ШІ-ко-пілота, полягає в тому, що з головного пілота людина легко сама може перетворитися на другого, який бездумно повторює та робить усе, що йому скаже головний — ШІ. Біологічні нейромережі (наші мізки) усе щільніше зливаються зі штучними нейромережами, і в нашій нейромережевій кабінці управління починається боротьба за владу та право визначати курс нашого гібридного літака.
