Штучний інтелект зможе фіксувати всі злочини у світі. Це взагалі реально? Колонка Сергія Жданова

Раз на тиждень філософ технологій та автор телеграм-каналу «Чорт ногу сломит» Сергій Жданов пише колонку про те, як технології змінюють реальність. Цього разу він аналізує, як штучний інтелект (ШІ) застосовують у судовій і правоохоронній системі, та пояснює, як він зможе замінити більшість прокурорів, адвокатів і навіть суддів. А ще — як нейромережі будуть стежити за злочинцями й перетворяться на детективів.

Сучасні авторитарні чи демократичні державні системи влаштовані так, що суспільство неминуче переповнене злочинцями. Практично кожна людина порушує закон хоч раз у житті, проте не кожного ловлять, судять та карають. Поза законом офіційно живуть мільйони людей — цілі регіони існують у сірих зонах, також процвітають чорні ринки й міжнародні злочинні організації. Держави не мають або ресурсів, або бажання карати всіх, хто порушує внутрішні закони (оскільки держава в особі чиновників також систематично порушує власні закони). Та й більшість злочинів часто просто залишається непоміченою. З настанням нової прозорої системи та приходом ШІ в систему правосуддя суспільство більше не зможе закривати очі на власні злочини: владі доведеться або всіх карати, або змінювати закони.

Судовий ШІ

Сьогодні адвокати та правозахисники вже активно використовують нейромережі на кшталт ChatGPT, і, за їхніми словами, ШІ цілком може замінити левову частку фахівців з юридичних фірм. Щоправда, поки що союз людей та ШІ у сфері закону все ще призводить до курйозів. Наприклад, коли нью-йоркський адвокат за підказкою нейромережі послався на кілька судових справ, нібито з минулого, яких ніколи не було. ШІ просто нагалюцинував і сфабрикував інформацію, а адвокат використав зручні аргументи та процитував вигадки нейромережі з нереальних справ для суду, тим самим зганьбився перед клієнтами й судовою системою. Хоча цей випадок викликав невдоволення деяких судових чиновників, але загалом тенденція на використання ШІ-зації для суду непереборна і всі — від східних автократій до західних демократій — продовжать наввипередки будувати повноцінний правовий ШІ.

На початку 2023 року колумбійський суддя Хуан Гарсіа вперше в історії офіційно консультувався з ШІ для ухвалення рішення щодо того, чи повинна страхова компанія оплачувати терапію дитини з аутизмом. Суддя буквально запитав нейромережу: «Чи звільняється неповнолітній аутист від оплати рахунків за його терапію?» — і потім процитував відповідь ШІ в документі зі своїм офіційним рішенням.

Гадаю, що найближчим часом юристи стануть операторами ШІ-машин правосуддя. А невдовзі більшість прокурорів, адвокатів — і, зрештою, суддів — можуть замінити ШІ-системами. Найімовірніше, надавати такі ШІ-системи правосуддя буде невеликий перелік корпорацій, чиїми операційними системами користуються уряди більшості країн світу (Microsoft, Google та Apple). А країни, які імпортують собі машини ШІ-правосуддя, просто налаштовуватимуть їх відповідно до своїх місцевих законів та оплачуватимуть послуги технокорпорацій.

Поліцейський ШІ 

Компанія Palantir, яка сьогодні сприяє ШІ-зації української армії, ще 2013 року допомагала поліції Лос-Анджелеса на основі ШІ-даних передбачати місця та час майбутніх злочинів. Їхня ШІ-система складала рейтинг небезпеки на основі даних про колишніх злочинців та історії правопорушень. ШІ прораховувала ймовірність причетності раніше затриманих порушників до нерозкритих злочинів та ризиків, що вони знову вчинять злочин у майбутньому. У книзі «Прогнозуй і спостерігай» соціологиня Сара Брейн розповідає про те, як каліфорнійські поліцейські за порадою ШІ збільшили кількість вильотів патрульних вертольотів до 51 разу на тиждень, це допомогло їм зафіксувати певну кількість злочинів (а поліцейські гелікоптери почали називати «гетто-пташками»). 

Розробка такого поліцейського ШІ триває понад 10 років. Тож сьогодні на основі ШІ нового покоління створюють практично автономні ШІ-агенти, які замінять слідчих та детективів. Уявіть собі агента Сміта з «Матриці», але без тіла, а натомість у вигляді нейромережі, яка може під’єднуватися до інших нейромереж, відеокамер та державних баз даних. Такий агент Сміт за необхідності зможе стежити за підозрюваним 24/7 через його ж особисті пристрої (смартфон або комп’ютер) і профілі в соціальних мережах, а також зчитувати дані із сотень пристроїв, що оточують його, наприклад, з розумних будинків. Нейромережа агент Сміт володітиме дронами, за допомогою яких він зможе дистанційно затримувати й знешкоджувати злочинців. Згадайте, як військові ЗСУ вели російського солдата, що здався в полон за допомогою безпілотника. Уявіть, як у майбутньому дрони під командуванням нейромережі зможуть наздоганяти та вести грабіжника у відділення поліції. 

Згодом технологічний прогрес та адаптація державами технологій ШІ досягнуть такої межі розвитку, яка дасть нейромережам змогу розкривати всі злочини й затримувати злочинців. Також ШІ-системи зможуть судити та перевиховувати злочинця (у гіршому випадку — нещадно карати). 

Нейромережі правосуддя працюватимуть на підставі законів і правил, які впровадять люди. У світі ШІ-правосуддя всі дії громадян, які порушують ухвалені в країні закони, фіксуватимуть та оцінюватимуть. Злочини майбутнього не залишаться непоміченими й неврахованими, тож перед нами постане завдання переосмислити поняття злочину у світі, де не можна уникнути покарання.

Нові норми

Уявіть ШІ-систему «Правосуддя», яка певної миті дістає можливість відстежити 90% не лише поточних, а й минулих злочинів кожного громадянина віком від 18 років. Ми неминуче побачимо, що навіть найпорядніші, за старими мірками, громадяни вчинили десятки, сотні, а то й тисячі порушень закону протягом життя. Ми також побачимо, що більшість людей скоюють одні й ті самі злочини: не платять податки, вживають заборонені психоактивні речовини, дають і беруть хабарі, вчиняють суспільно небезпечні діяння тощо. На думку спадають класичні історії консервативних американських сенаторів на кшталт Ларрі Крейга, який багато років просував закони проти ЛГБТ-спільноти. Потім з’ясовувалося, що весь цей час він спав з чоловіками й систематично порушував закон, користуючись нелегальними послугами чоловічого ескорту та займався сексом у громадських місцях. Випадок Крейга — не виняток, а один з безлічі прикладів, коли консервативні анти-ЛГБТ політики виявлялися представниками нетрадиційної орієнтації. Коли ця суперечність ставала відома широкому загалу, кар’єри та життя цих політиків руйнувалися. Вочевидь, щось не так із системою, у якій люди вигадують безліч законів, на підставі цих норм карають інших людей, а потім самі ж стають злісними порушниками.

Незабаром усі наші суперечності стануть явними, і людям доведеться визначати норму нової прозорості у світі, зважаючи на вже наявні закони, волю представників влади та громадян. А також враховувати аналіз баз даних про злочини та провинності мільярдів людей. Загалом постане питання, як визначати закон і його порушення: за старими законами, згідно з моральними нормами чи на основі реальної поведінки людей?

Іншими словами, постане питання, як визначати норму, за відхилення від якої держава карає? Норма — це нормальна (тобто типова для більшості) поведінка, чи норма — це заданий норматив, золотий стандарт, до якого всім варто прагнути?

У будь-якому разі людство на якийсь час випаде в сильний моральний осад після того, як дізнається саме про себе правду. Нейромережеві агенти правосуддя доведуть, що всі ми грішні, і стане зрозуміло, що старе визначення гріха більше не працює, бо майже всі виявляються грішниками й злочинцями, вартими покарань.