Вас лякає ChatGPT? Принаймні в нього немає тіла. А що як воно з’явиться? Колонка Сергія Жданова

Раз на тиждень філософ технологій та автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він аналізує, як штучний інтелект з космічною швидкістю вдосконалює ботів і чому є всі шанси, що вони отримають тілесну форму та змагатимуться з людьми.

Я не прочитав жодної книги ізраїльського філософа Юваля Гарарі, але за останні 5 років переглянув десятки його інтерв’ю та лекцій, адже він брав участь у безлічі важливих публічних дискусій про технології. Сьогодні Гарарі — один з найцікавіших та найважливіших спікерів на тему ШІ. Я відношу його до «кремнієвого пулу» — публічних інтелектуалів, офіційно схвалених технологічною елітою Кремнієвої долини, які отримали завдяки цьому величезний буст популярності в соцмережах та на ключових інтелектуальних майданчиках. Кремнієва долина часто схвалює відвертих пустомель на кшталт Джордана Пітерсона, але Гарарі — не той випадок. Це, я б сказав, win-win: від його ідей виграють і корпорації, і люди, котрих ці корпорації частенько експлуатують, — такий збіг трапляється вкрай рідко.

За останній місяць виступи Гарарі зацікавили мене двічі. По-перше, його розмова з головною редакторкою The Economist Зенні Мінтон Беддоуз і співзасновником ШІ-компаній DeepMind та Inflection AI Мустафою Сулейманом, а по-друге — дискусія з міністром цифрового розвитку Тайваню Одрі Тен. Перша розмова цікава насамперед Сулейманом, який від імені розробників ШІ окреслює перспективу розвитку технології: у найближчі п’ять років з’являться ШІ-системи в тисячу разів більші за ChatGPT, і ніхто навіть приблизно не розуміє, наскільки розумнішими і свідомішими вони стануть.

Друга розмова з Одрі Тен запам’яталася мені думкою Гарарі, що «лібералізм ґрунтується на вірі в агентність людей, а ШІ погрожує позбутися її». Особливо небезпечні з цього погляду великі мовні моделі (LLM), які дозволяють створювати все більш досконалих ботів — штучних віртуальних істот, здатних самостійно діяти та впливати на живих людей. Ці ж мовні моделі, за словами Сулеймана, за наступні 5 років виростуть в рази, тож разом з ними посиляться й боти. Якщо ШІ, за словами Гарарі, вже «зламав операційну систему нашої цивілізації», то що буде далі, коли він стане сильнішим?

До появи LLM на кшталт ChatGPT і Google Bard боти вміли лише ставити реакції й писати кострубаті коментарі в соцмережах — але цього вже було достатньо, щоб серйозно впливати на громадську думку. Уже понад 10 років армії ботів допомагають скидати уряди та влаштовувати революції, створюють культурну пропаганду та рекламу всіх рівнів, допомагають політикам обиратися, а диктаторам — тримати роти незгодних на замку. Брекзит та обрання Трампа президентом, хвиля нових правих політиків в Америці та Європі, Black Lives Matter та культура скасування, популяризація фемінізму та поява інцелів — у всіх цих явищах боти відіграли ледь не ключову роль, оскільки з їхньою допомогою політтехнологи, піарники та інші «скульптори громадської думки» керували дискусіями в суспільствах.

Перші версії сучасних ботів з’явилися в молодому інтернеті 1990-х, коли інженери почали писати програми-помічники для управління комп’ютерними мережами. До середини 1990-х роботи перетворилися з інженерної дивини на побутовий «інтелектуальний софт»: Microsoft запустила бота-помічника скріпку Clippy для програми Office, а на багатьох вебсайтах з’являлися онлайн-боти, що допомагали працювати і здійснювати покупки в мережі. У 1999 році їх стали називати вже не просто софтом, а «першими корінними мешканцями інтернету»: стало очевидно, що боти, особливо їх соціально орієнтовані версії на кшталт чатботів, — одна з ключових технологій комп’ютерної ери. У тому ж 1999 році вийшов фільм «Матриця», в якому сестри Вачовскі показали крайній варіант розвитку цієї технології — всюдисущого та невловного бота Агента Сміта, який суворо й нещадно утримує людство у віртуальній цифровій стайні та в ментальній сплячці.

В середині нульових з’явилися соціальні мережі Facebook (2004) та Twitter (2006), а разом з ними цілий клас соцмережевих ботів — фейкових акаунтів, які могли писати простенькі пости і залишати лайки та коментарі під контентом людей. У міру того, як ці соцмережі набирали все більше щоденних користувачів, з’являлося все більше фейкових бот-акаунтів, а також зростала їхня активність та можливості — і тоді до ботів потягнулися не тільки рекламодавці, а й політики. Вже під час виборчої кампанії на пост президента США у 2012 році «віртуальні помічники» відігравали одну з ключових ролей у передвиборчих штабах і демократичної, і республіканської партій. Наприклад, тоді дослідники з’ясували, що близько 40% нових підписників Обами були ботами, а кількість фейкових шанувальників у його основного конкурента Мітта Ромні трималася на рівні 30%.

До середини 2010-х на діяльність ботів припадало 50% інтернет-трафіку, а кількість активних бот-акаунтів у соцмережах почала обчислюватись десятками мільйонів. Вони переконували користувачів соцмереж, що потрібно подивитися серіал, купити кросівки, підписатися на блогера, проголосувати за політика або перейти за шкідливим посиланням — іншими словами, здійснювали алгоритмічну пропаганду. Такий вид пропаганди здійснюється компʼютерними програмами, котрі сприймають живих користувачів як інформаційні системи, що легко піддаються стороннім маніпуляціям — і чим досконалішими ставали технології, тим легше ботам було зламувати інформаційні системи під назвою «люди».

Щоби зрозуміти, на що боти здатні сьогодні, зайдіть у ChatGPT і попросіть його посперечатися з вами на обрану вами тему — нехай він спробує переконати вас у своїй точці зору, а ви уявіть, що розмовляєте з людиною, а не з ботом. Це в будь-якому випадку корисна вправа, завдяки якій ви отримаєте наочний приклад, як можуть виглядати політичні боти наступного покоління — лячно переконливо. Якщо ще нещодавно люди писали для них алгоритми переконання опонентів та постачали їм «забійні аргументи», котрі ШІ потім просто копіював у діалог з користувачами, то з сьогоднішніми технологіями все дещо інакше — людині достатньо «нацькувати» чатбот на групу, яку потрібно в чомусь переконати, і далі ШІ зробить все сам: визначить їхній психотип, придумає переконливі аргументи, натисне на потрібні емоції.

Судячи з темпів росту ШІ, все більш реальною стає не тільки перспектива постання злісних ботів на кшталт Агента Сміта з «Матриці», а й поява ШІ-партнерів — як-от Саманта з фільму 2013 року «Вона», в якому герой Хоакіна Фенікса закохується в програму на своєму компʼютері. Нейромережі такого типу матимуть якщо не особистість, то перфектну ілюзію особистості, повністю підлаштовану під користувача — вони зможуть вступати з людьми в інтимні психологічні стосунки, що зробить нас ще вразливішими для алгоритмічних маніпуляцій з боку ШІ. Саманта у фільмі «Вона» вміє зобразити кохання та розмовляє голосом Скарлетт Йоханссон — однак у неї немає тіла. Насправді ж у 2023 році ми не тільки вміємо створювати віртуальних ШІ-коханців, а й уже навчилися будувати непоганих механічних роботів — фізичні оболонки для нейроботів наступного покоління.

Достатньо подивитися кілька роликів від Boston Dynamics, а тепер і від Tesla Ілона Маска, щоб зрозуміти, що скоро боти перестануть бути просто першими корінними мешканцями інтернету, а стануть новим способом життя у фізичному просторі. Маск вважає, що скоро на кожну людину на Землі припадатиме по одному роботу-гуманоїду: як споживацький продукт, вони будуть швидше схожі на смартфони, ніж на машини — у кожного свій.
Тож уявімо майбутнього робогуманоїда як матеріалізованого з інтернету: що ці нейромережі зроблять з «операційною системою цивілізації», якщо, за словами Гарарі, їм вдалося зламати цю систему, навіть перебуваючи у безтілесному стані?