Світ під контролем. Чому біометричні технології наближають антиутопії і цього майже не уникнути

Біометричними технологіями сьогодні нікого не здивувати. На початку XXI століття боротьба з тероризмом дала потужний імпульс їх розвитку і впровадженню, а COVID-19 ще більше підігнав попит на них. За оцінками Global Industry Analysts, з початку пандемії світовий ринок біометрії буде щорічно зростати на 14,8%. Журналіст і редактор телеграм-каналу FintechWave Андрій Сорокін спеціально для Заборони розповідає, що може бути не так зі світом, де вас завжди зможуть ідентифікувати за голосом чи сітківкою.

Що це і як працює?

Кожна людина має унікальні характеристики, за допомогою яких її можна впізнати. Це обличчя і міміка, відбитки пальців, ДНК, форма долоні, обличчя, голос, малюнок вен, райдужна оболонка і сітківка ока. По суті, це паспорт, який завжди при нас. На цьому і побудовані біометричні технології, що розпізнають людину за однією або кількома ознаками (останнє називають комбінованою біометричною автентифікацією).

Біометричні дані записуються в спеціальну базу за допомогою сенсорів, сканерів та інших пристроїв. Система запам’ятовує цю інформацію (наприклад, відбиток пальця) і перетворює в цифровий код. Коли палець знову прикладають до сканера, система порівнює його з тим, що зберегла раніше. Якщо вони збігаються, то особистість підтверджена.

Де застосовують біометричні технології?

• Громадська безпека та контроль. Наприклад, автоматизовані системи біометричної ідентифікації застосовують для виявлення та пошуку зловмисників, доведення та запобігання злочинам. Камери з розпізнаванням облич використовують для проходження контролю в аеропортах, гарантування безпеки на масових заходах. Біометричні паспорти також набувають все більшого поширення: їх видають понад 90 країн зі 193 держав-членів ООН.
• Фінанси, ритейл, телекомунікації. Ще кілька років тому «ПриватБанк» запустив функцію оплати обличчям. Відповідну опцію можна вибирати на POS-терміналах Android PAX, потім покупець дивиться в камеру терміналу і підтверджує операцію пін-кодом. Однак застосування біометрії в цих сегментах набагато ширше: відкриття рахунків, отримання кредитів, зняття готівки в банкоматах, грошові перекази, боротьба з шахрайством, протидія відмиванню грошей та ін.
• Охорона здоров’я та соціальна допомога. За допомогою розпізнавання облич у лікарнях і будинках для літніх людей можна відстежувати, чи приймають пацієнти ліки. Деякі нейромережі також можуть оцінювати їхній загальний стан і виявляти захворювання, зокрема спадкові та вроджені. Окремий великий напрям — перевірка особистості під час отримання доступу до медпослуг і пільг, а також ідентифікація носіїв певної хвороби. Так, в Африці діють національні програми ідентифікації носіїв ВІЛ за відбитками пальців. Пандемія коронавірусу також стала стимулом для впровадження високотехнологічних систем спостереження і розпізнавання лиць. Під час першого локдауну в низці країн (наприклад, у Росії) їх використовували проти порушників карантину і самоізоляції.
• Виборчий процес. Основне завдання — ідентифікація виборця і дотримання принципу «один громадянин — один голос». Однак біометрія в цьому випадку найбільш характерна для не найрозвиненіших країн світу — передусім він стосується Африки і Латинської Америки. Водночас є досвід онлайн-голосування Естонії на основі ідентифікаційних карток із чипом.
• Освіта. У школах біометричні технології використовують для доступу в їдальні, контролю за прогулами, заміни бібліотечних карток. У сфері онлайн-освіти сервіси розпізнавання облич можуть стежити, щоб учень не списував і не відволікався під час тестування.

Як використовують біометрію на державному рівні?

Позиція влади часто полягає в тому, що біометричні технології допомагають вирішувати проблеми, які стосуються всіх. Серед них тероризм, злочинність і нелегальна міграція. Однак останніми роками мова далеко не лише про біометричні паспорти.

Китай. Країна лідирує в застосуванні технологій для розпізнавання лиць і спостереження за людьми. За даними агентства TelecomDaily, за жителями Китаю постійно стежать не менше як 200 млн камер, або 143,6 штуки на 1 тис. осіб. Сканери облич є в аеропортах, метро, на вокзалах і навіть у громадських туалетах, щоб звідти не крали туалетний папір. Без біометричної перевірки особи неможливо придбати сім-картку, відкрити банківський рахунок або зареєструвати компанію. Разом з тим відповідна база даних розширюється і вже включає в себе ДНК.

Патенти на системи відеоспостереження і технології розпізнавання лиць активно подають приватні компанії. Серед них, зокрема, є ті, хто залучає фінансування від транснаціональних корпорацій. З одного боку, такий рівень розвитку технологій у чомусь спрощує життя: не потрібно носити з собою платіжні картки або перепустки, а поліції простіше знаходити правопорушників. З іншого боку, це дає владі змогу вести практично тотальний контроль, особливо з урахуванням розроблюваної і вже частково протестованої «системи соціального кредиту».

Китайський бізнес не проти експортувати такі технології. Так, Джонатан Гіллман (Jonathan Hillman), директор проєкту Reconnecting Asia в Центрі стратегічних і міжнародних досліджень, зазначає, що «навіть якщо ви ніколи не бували в Китаї, камери Hikvision напевно помітили вас». Ще до 2017 року компанія захопила 12% ринку Північної Америки, її пристрої продаються і в Україні.

США. За даними TelecomDaily, у Штатах встановлено 50 млн камер, або 152,8 камери на 1 тис. осіб. Наприкінці літа Рахункова палата оприлюднила звіт, у якому вказано, що 10 із 24 федеральних агентств розширять застосування технології розпізнавання лиць до 2023 року. Зокрема, йдеться про те, що міністерства внутрішніх справ, оборони, юстиції, національної безпеки та інші відомства впровадять 17 різних систем, 13 з яких будуть належати їм самим.

Зараз 18 із 24 агентств уже застосовують технології розпізнавання облич. Правозахисники, зрозуміло, не в захваті. Наприклад, представник правозахисної організації Electronic Frontier Foundation зазначив, що влада все більш залежна від технологій розпізнавання лиць, які порушують право на недоторканність особистого життя. Сама Рахункова палата цього року вказала на те, що федеральні агентства США безвідповідально використовують цю технологію.

Євросоюз. Ще 2013 року Єврокомісія презентувала проєкт Smart Borders для контролю над особами, які прибувають у ЄС із США і країн, що не входять до Євросоюзу. Одна з його частин — система «в’їзд-виїзд» (Entry-Exit System, EES) — реєструє біометричні дані приїжджих (лице, райдужна оболонка і відбитки пальців одночасно), а також інформацію про те, як довго вони мають право перебувати на території ЄС. Пілотні випробування системи почалися в низці країн ще 2015 року. Наприклад, у них брали участь аеропорти Швеції, Франції, Німеччини, Португалії, Іспанії та Нідерландів. Очікують, що остаточно програму впровадять у 2022 році.

Ініціатива нерідко зазнавала критики (зокрема в Європарламенті) з точки зору захисту особистих даних, а також здатності захистити від потоку мігрантів. Цього року ЄС вирішив загалом посилити перевірки під час видавання шенгенських віз: йдеться про перевірку людини відразу в кількох базах, а також фотографування відразу під час подавання заяви (знімки вносять до візової системи країн Шенгенської угоди). Самі біометричні дані будуть як і раніше зберігатися в базах майже п’ять років від подання попередньої заяви, коли брали відбитки пальців.

Росія. За ініціативою Мінцифри і Центробанку в Росії створюють Єдину біометричну систему (ЄБС). У ній використовується два типи даних: голос і обличчя. За допомогою ЄБС зараз можна віддалено взаємодіяти з банками (спочатку їх і зобов’язали збирати дані клієнтів), а в майбутньому стане можливим користуватися державними і приватними послугами.

Однак населення не поспішає здавати біометричні зліпки. За даними на лютий 2021 року, в системі було зареєстровано приблизно 164 тис. осіб, хоча систему запустили ще влітку 2018 року. Втім, особливий інтерес становить мережа розпізнавання лиць у Москві, де встановлено понад 200 тис. камер. У лютому з’явилася інформація, що за їхньою допомогою влада відстежувала учасників протестів і притягувала їх до відповідальності.

Біометрія для боротьби з тероризмом

Після подій 11 вересня 2001 року боротьба з тероризмом стала темою номер один для всього світу. Після трагедії в США багато країн почали активно впроваджувати рішення для збору даних і спостереження за людьми. При цьому в самих Штатах спочатку не всі були впевнені, що такі технології на той момент могли б запобігти теракту. І йдеться навіть не про правозахисників, а, наприклад, про RAND — це стратегічний дослідницький центр, що працює на замовлення уряду і збройних сил США.

Інтерпол має базу даних відбитків пальців, профілів ДНК та зображень лиць, наданих країнами-членами. Повідомляли, що також у планах створення центру біометричних даних (захищений шлюз) для зв’язку біометричних баз даних країн-членів з біометричними базами даних Інтерполу. Це допомогло б виявляти злочинців на прикордонному контролі.

У питаннях використання біометрії міжнародні органи консультуються з Біометричним інститутом (Biometrics Institute). Зокрема, це стосується ОБСЄ та ООН. Інститут створили ще 2001 року, проте правила етичного використання відповідних технологій він розробив тільки 18 років по тому.

В ОБСЄ впевнені, що біометрія ефективна в боротьбі з тероризмом. Проте такі практики не можна назвати ідеальними. Наприклад, експерти британської некомерційної організації Privacy International (PI) вважають, що це може легко призвести до надмірного нагляду, обмеження громадянських прав і недоторканності приватного життя, а також расової та релігійної дискримінації.

У публікації від травня 2021 року вони наводять такі приклади:

• Ірак і Афганістан. У цих країнах Міноборони США розробило і реалізувало біометричну програму без попередньої оцінки ризиків для прав людини і створення гарантій, необхідних для запобігання зловживанням. Спочатку завдання полягало в тому, щоб відрізняти терористів від цивільного населення. У PI зазначають, що де зараз отримані дані та як їх використовують — залишається незрозумілим.
• Ізраїль і Палестина. У PI стверджують, що влада Ізраїлю регулярно стежить за палестинцями і жорстко обмежує їхню свободу пересування, що призводить до системної сегрегації.
• Сомалі. У цій країні Міноборони і міжнародні організації на кшталт ООН збирають і безстроково зберігають біометричні дані за відсутності правового регулювання, впевнені в РІ. На думку її експертів, такі ініціативи принесли сумнівну користь і навіть згубно вплинули на місцеве населення, яке слабко уявляє, що відбувається з їхніми даними.

У червні заборонити біометричне спостереження і стеження закликали Amnesty International і ще понад 170 організацій, зокрема «Європейські цифрові права» (EDRi), Internet Freedom Foundation (IFF), Human Rights Watch. Ось що пише в їхній спільній заяві:

«Незважаючи на суперечливі твердження, що ці технології підвищують рівень громадської безпеки, всі їхні переваги однозначно і набагато переважуються систематичним нехтуванням наших прав. Ми бачимо все більше прикладів зловживання такими технологіями і їхнього малопрозорого або зовсім непрозорого впровадження».

Чи будуть обмеження для використання біометрії?

Поки що про це важко говорити на тлі пандемії і супутніх обмежувальних заходів. Водночас останні кілька років дискусія про обмеження використання біометрії все ж вийшла на рівень держав і технологічних гігантів, а не тільки правозахисників.

У жовтні 2021-го Європарламент ухвалив резолюцію про необхідність заборонити використовувати системи автоматичного розпізнавання лиць у громадських місцях. Це пов’язано з певними ризиками. Серед них проблеми із захистом особистих даних, непрозоре ухвалення рішень, дискримінація. У Європарламенті підкреслили, що в підсумку це може впливати на презумпцію невинуватості, основні права на свободу і безпеку особистості.

Автори резолюції також пропонували заборонити використання правоохоронцями інших технологій. Зокрема, йшлося про рішення для аналізу ходи, відбитків пальців, ДНК, голосу та інших біометричних даних. Також вони висловили занепокоєння щодо сервісів розпізнавання облич на кшталт Clearview AI, чия база даних зібрана з соцмереж і не тільки. При цьому ініціативи парламентаріїв не стосувалися питань використання біометрії для боротьби з найтяжчими злочинами.

У підсумку за резолюцію проголосувала більшість депутатів (377 «за», 248 «проти», 62 утрималися). І хоча вона не обов’язкова до виконання, можливо, в ЄС поступово виникає тренд на обмеження використання біометрії. Так, влітку Європейська рада із захисту даних і європейський інспектор із захисту даних також закликали заборонити автоматичне розпізнавання за допомогою штучного інтелекту людських рис у публічних просторах.

Як не дивно, про обмеження систем розпізнавання лиць заговорили навіть у Китаї. У липні вищий суд країни опублікував судове роз’яснення щодо їх використання. У ньому йдеться, що компанії можуть застосовувати у своїх продуктах технологію розпізнавання облич, але не мають права примушувати людей до її використання в додатках для доступу до послуг. Крім того, для початку необхідно отримати згоду користувача перед збором інформації про особу. Також порушенням прав буде вважатися ситуація, за якої компанія не надала клієнтам альтернативи розпізнаванню лиць, щоб скористатися її сервісами. Водночас усі ці правила не стосуються випадків, коли йдеться про громадську безпеку та надзвичайні ситуації. Та й загалом заклопотаність китайської влади більше пов’язана з бажанням контролювати приватний сектор.

У 2020 році в країні ввели суворіші стандарти для додатків, які збирають біометричні дані. Приводом стали скандали з їхнім витоком і додатки для створення діпфейків. Говорити про успішність нововведень поки важко. Наприклад, згідно із січневим звітом британської дослідницької компанії Comparitech, Китай гірше за всіх захищає біометричні дані. Втім, на офіційному рівні країна не припиняє демонструвати заклопотаність цим питанням. Так, у середині листопада Кіберпросторова адміністрація Китаю (CAC) опублікувала новий проєкт правил, який забороняє використовувати біометричні дані як винятковий спосіб ідентифікації особи.

У вересні 2020 року міськрада Портленда заборонила використовувати системи розпізнавання лиць. Раніше аналогічних заходів ужила влада Сан-Франциско і Окленда, а також Бостона. Однак Портленд став першим містом США, де заборона стосується не тільки державних, а й приватних структур. У Бостоні ж приводом для такої ініціативи став помилковий арешт афроамериканця Роберта Вільямса. Одна із систем розпізнавання лиць зафіксувала його збіг з даними на водійському посвідченні людини, яка скоїла пограбування магазину.

На початку листопада Facebook оголосив, що припинить роботу системи розпізнавання облич найближчим часом. За словами віцепрезидента відділу штучного інтелекту компанії Джерома Пезенті, щодо системи в суспільстві є безліч побоювань. «В умовах збереження невизначеності ми вважаємо, що відмова від системи розпізнавання лиць у соцмережі — розумне рішення», — пояснив він. Свої погляди на програмне забезпечення для розпізнавання облич не так давно змінили й інші технологічні гіганти. Тимчасово зупинили або припинили їх продаж Amazon, Microsoft і IBM.

Я законослухняний громадянин, про що мені турбуватися?

• Компрометація даних. Можна поміняти пароль, пін-код, документи, банківську картку. Що робити, якщо доступ до біометрії здобули зловмисники, незрозуміло. Такі дані унікальні, по суті, це крадіжка особистості. Саме ризик компрометації даних називають одним з найсерйозніших. Судячи з усього, в перспективі будуть усе активніше застосовувати ідентифікацію за динамічно змінюваними біометричними ознаками, тобто коли реєструється реакція на зовнішній вплив (поведінкова біометрія). Або ж ідентифікувати людину будуть відразу за великою кількістю ознак.
• Витік даних. Чорний ринок біометричних даних уже існує і буде тільки рости, вважає співзасновник ізраїльської компанії BioCatch і експерт з кібербезпеки Урі Рівнер. Біометричну верифікацію використовують усе більше додатків, не виключено, що всі ці дані про користувачів можуть потрапити до зловмисників. Експерт вказує і на те, що злочинці можуть отримати доступ до спеціального ПЗ, яке допоможе проникнути в гаджети користувачів, навіть якщо в них автентифікація за селфі. Також відомі випадки, коли в мережу потрапляли доступи до камер спостереження і результатів розпізнавання. За останні кілька років витоки даних фіксували в Індії, США, Росії.
• Помилки в розпізнаванні. Наприклад, у США системи розпізнавання облич уже визначали злочинцями невинних людей. Крім торішнього непорозуміння в Бостоні, можна згадати сумну історію Роберта Джуліана-Борчака Вільямса з Детройта. Він провів 30 годин за ґратами через те, що система розпізнавання лиць визначила в ньому злочинця, який 2018 року скоїв магазинну крадіжку.
• Можливість обманути систему. Ще 2016 року вчені з Університету Карнегі — Меллона навчилися обманювати систему розпізнавання лиць. Того ж року розробки в цьому ж напрямі презентували дослідники з Університету Північної Каліфорнії. У 2021 році вчені з Університету імені Бен-Гуріона в Ізраїлі навчили нейромережу добирати макіяж, щоб обманювати системи розпізнавання облич у громадських місцях. Якщо говорити про реальні кейси, то навіть китайські системи виявилися не такими вже стійкими. Наприклад, у січні Народна прокуратура Шанхаю звинуватила двох жителів Китаю в шахрайстві. Зловмисники купували фото і підроблені особисті дані на «чорному онлайн-ринку», а далі в хід ішли діпфейк-додатки і перепрошиті смартфони. Втім, є рішення, які обманути складніше, наприклад, зчитувачі малюнка вен.
• Дискримінація та расизм. Тут можна виділити цілий спектр проблем на рівні держави і приватних компаній. Наприклад, нейромережі часто погано розпізнають азійців, латиноамериканців або афроамериканців (хоча Міжнародна асоціація біометрії та ідентифікації з цим не згодна), нерідко вказують на темношкірих людей як на потенційних злочинців. Останнім також складніше отримати кредит у банках: за даними MIT, наявні системи нерідко вважають, що світлошкірі з більшою ймовірністю повернуть гроші.
• Використання даних без згоди. Американській компанії Clearview AI абсолютно все одно, хочете ви чи ні, щоб ваше фото опинилося у неї. Сервіс збирає зображення з відкритих джерел, включно із соцмережами, а потім надає платний доступ до своєї бази. Достатньо встановити додаток, завантажити фото персони, що вас цікавить, — і сервіс видасть добірку її фото з бази і посилання на джерела, що дадуть змогу її ідентифікувати. За даними The New York Times, доступ до бази отримували, зокрема, поліція і спецслужби США і Канади. Експерти Human Rights Watch приголомшені.
• Широкі можливості для влади. Біометричні технології в руках авторитарних країн — жах рівня класичних антиутопій. Утім, він давно вже став реальністю в Сіньцзян-Уйгурському автономному районі Китаю. У місцевих таборах для «перевиховання» уйгурів (мусульманська меншина) широко застосовуються технології розпізнавання лиць і примусовий збір біометричних даних. Ще більше занепокоєння викликає активне бажання Китаю поділитися своїми напрацюваннями. Зрозуміло, з кращих спонукань. У цьому сенсі показовий досвід Еквадору: країна стала однією з найбезпечніших у Латинській Америці після впровадження китайської системи «розумного» відеоспостереження з технологією розпізнавання облич.

Ризиків чимало. Але біометрію все одно будуть впроваджувати?

Найімовірніше, так. Пандемія цілком може відіграти тут не останню роль: нещодавно у Швейцарії вже запропонували сканувати обличчя для перевірки статусу вакцинації. Як і у випадку з загрозою тероризму, біометрію можуть просувати як рішення для колективної безпеки. За належних інформаційних зусиль суспільство неважко переконати, що вона важливіша за дотримання прав і свобод. Суворі локдауни та інші неоднозначні з правової точки зору заходи (навіть у цілком вільних країнах) показали, що це поки що працює. Щоправда, ніхто не гарантує, що одного разу впроваджені механізми контролю підуть у минуле в міру зникнення загрози. Це особливо тривожно на тлі занепаду демократії в усьому світі.

Середньостатистичний користувач не перший рік стикається з біометрією і вже досить лояльний до неї. Дослідження Fabrizio Ward для Visa у 2020 році засвідчило, що більшість українців позитивно ставляться до неї, тому що це простіше і швидше, ніж звичайні паролі. Майже аналогічні результати показало опитування у США. З огляду на це, можна припустити, що сприйняття біометричних рішень може бути цілком позитивним. Особливо якщо вони спрощують життя — наприклад, як у разі оплати лицем проїзду в метро.

Поки що в більшості країн немає загальнонаціональних баз, на основі яких «розумні» камери можуть розпізнати громадян. Однак стрімка цифровізація і пандемія, що й далі триває, породжують попит на рішення для контролю. Бізнес охоче готовий їх надати, зокрема країнам з не найміцнішими демократичними інститутами — ізраїльський досвід, на жаль, підтверджує це.

Зберігання, використання біометричних даних на рівні держави і супутнє правове регулювання продовжують турбувати правозахисників. Так, на рівні західних держав дискусія про це можлива і вже призводить до якихось ініціатив. Однак жителям країн другого і третього світу на це розраховувати не доводиться. Для багатьох із них характерні репресивні режими, здатні легко записати в терористи всіх неугодних. Технології цифрового контролю можуть ще більше спростити їх придушення. Втім, досвід Східної Європи показує, що і вчорашня успішна демократія легко може виродитися в авторитарне правління. Ось тільки боротися з ним буде значно важче. Емігрувати, можливо, теж — «розумні кордони» легко закрити для незгодних.