Реальніші за людей: вчені пояснили, як створюються діпфейки і в чому їх небезпека

• Для створення фейкових зображень людей ШІ показують величезну кількість наборів рис справжніх облич. 
• Експерименти показали, що фейкові обличчя виглядають менш привабливими, ніж справжні. Це пов’язано з еталоном сприйняття.
• Набагато легше розпізнати фальшиві обличчя на відео, адже динаміка робить помилки нейромережі більш очевидними.

Сучасні діпфейки створюються за допомогою штучного інтелекту. Є низка небезпек, зокрема створені зображення можуть використати для посилення расистських чи інших стереотипів, для розв’язання конфліктів або у шпигунських цілях.

Заборона розповідає про експеримент вчених щодо фейкових знімків та наслідків їх використання. 

Обличчя, створені ШІ: дослідження

За допомогою сучасних технологій генеруються вкрай реалістичні зображення людей, місць чи подій, яких ніколи не існувало. Для створення таких діпфейків використовується штучний інтелект, який навчається це робити за допомогою комп’ютерної системи, каже директор Центру політики почуттів Лондонського королівського університету Холловей професор Манос Цакіріс.

Наприклад, для створення зображень людей нейромережі показують величезну кількість наборів рис справжніх облич. Вона запам’ятовує ці дані й генерує нові образи за тим самим принципом, що побудовані й людські обличчя: симетрія, характерні зовнішні ознаки, притаманні певній нації чи расі; випадкові особливості типу родимок. Через це знімки ШІ вкрай складно відрізнити від реальних фото.

Команда науковців з університету Голловей провела два експерименти. Під час першого вчені демонстрували людям різні зображення облич: частина з них була справжньої, а інші — згенеровані нейромережею.

«Дослідження показало, що багато людей не можуть достовірно відрізнити фотографії справжніх облич від зображень, згенерованих комп’ютером. Ми з’ясували, що GAN набагато частіше сприймалися як справжні, ніж реальні обличчя. Ба більше, судження учасників про реальність впливали на їхню поведінку, демонструючи підвищений соціальний конформізм щодо облич, які сприймалися як справжні, незалежно від фактичної реальності», — розповів Цакіріс.

Науковці знайшли цікавий зв’язок із привабливістю: оцінені як менш гарні обличчя водночас були оцінені як більш реальні. Експерти пояснюють це тим, що менш привабливі обличчя можна вважати типовими, тому наш мозок оцінює їх як еталон. Таким чином, обличчя GAN, які схожі на ментальні шаблони, будуть більш реалістичними, ніж привабливі для нас справжні люди.

У другому експерименті вчені перевірили, якій інформації частіше довіряють. Учасникам досліду демонстрували профілі акаунтів у соцмережах та дозволяли взаємодіяти з профілями, наприклад, у вигляді онлайн-листування. Було зроблено висновок, що люди частіше довіряють інформації, переданій особами, яких вони вважали справжніми, навіть якщо ті були створені штучно. Однак довіра була суттєво підірвана, коли учасники експерименту дізналися, що серед акаунтів може бути присутній фейковий.

«Цей результат можна вважати корисним у певному сенсі, тому що він зробив людей більш підозрілими в середовищі, де можуть працювати фальшиві користувачі. З іншого боку це може поступово руйнувати саму природу нашого спілкування. Якщо ми регулярно сумніваємося в правдивості того, що ми бачимо, може відбутися перерозподіл розумових зусиль: з обробки самих повідомлень на обробку особистості месенджера. Іншими словами, широке використання дуже реалістичного, але штучного онлайн-контенту може вимагати від нас інших думок», — пояснив професор Манос Цакіріс.

Чим небезпечні фейкові фото

Діпфейки все частіше використовують шахраї. Приміром, у 2019 році фальшивий профіль так званої Кеті Джонс на LinkedIn налагоджував зв’язки з офіційними особами США та іншими впливовими людьми. Фото неіснуючої дівчини створив штучний інтелект, найімовірніше, у шпигунських цілях.

У профілі було зазначено, що вона роками працювала в Центрі стратегічних і міжнародних досліджень у Вашингтоні, а також отримала ступінь з російської науки в Мічиганському університеті. Такі дані підсилювали довіру до Джонс, тому у більшості чиновників не виникало сумнівів, чи додавати профіль у свій список контактів.

За даними британської військової розвідки MI5, з 2016 року щонайменше 10 000 громадян Великої Британії прийняли запит у LinkedIn від підроблених профілів, пов’язаних з ворожими державами.

Діпфейки також можуть використовуватися для заохочення расизму чи мізогінії, а також для провокування насильницьких конфліктів, розповів Забороні письменник, викладач та почесний декан Міжнародного центру фотографії Фред Рітчін, який вивчає майбутнє зображень. 

«Ви можете зробити фотографію того, як хтось краде щось, хоча він ніколи цього не робив, а якщо у вас є зображення білих людей, які крадуть речі, чи іноземців, чи угорців, — кого завгодно, — ви можете використовувати їх як зброю, щоб показати те, чого ніколи не було. Скажімо, є фотографія російського солдата, а на задньому плані багато мертвих людей, і ви можете легко змусити його посміхатися за допомогою штучного інтелекту або фотошопу. Це зброя, це пропаганда, і на цьому етапі все розвалюється. Особливо в соціальних мережах, тому що там більше немає фільтрів», — каже Рітчін.

Він також зазначив, що через розвиток ШІ люди починають втрачати довіру до зображень, тож потрібно бути вкрай обережними навіть з достовірними джерелами з репутацією.

Як розпізнати діпфейк: лайфхаки експертів 

Є два види діпфейків: фото і відео. Набагато складніше знайти характерні риси у фотографіях, адже вони статичні, а динаміка часто викриває помилки ШІ, кажуть у Массачусетському технологічному університеті (MIT).

Тут створили спеціальний чек-лист з розпізнавання:

• звертайте увагу на щоки та лоб: чи не видаються вони надто гладенькими або, навпаки, надто зморшкуватими; чи збігається вік шкіри з віком очей та волосся — у діпфейках ці параметри зазвичай різняться;
• пильнуйте за очима та бровами: чи з’являються тіні там, де очікується — на фейках часто ненатурально відображене середовище;
• дивіться на окуляри: чи помітні на них відблиски і відображення, чи змінюється їхній кут, коли голова рухається — ШІ не завжди вдається передати природну гру світла;
• звертайте увагу на вуса та бороду: чи виглядає волосся на обличчі натурально — його вкрай важко натурально зімітувати;
• пильнуйте за родимками на обличчі, зморшками та шрамами: чи виглядають вони природно, чи рухаються в унісон з усім обличчям;
• подивіться на розмір та колір губ: чи відповідають вони пропорціям та кольору обличчя.

Також можна попрактикуватися з розпізнавання діпфейків на сайті університету.

Раніше Заборона розповідала про ознаки, які допоможуть відрізнити фейкові волонтерські запити від справжніх. Однією з них є відсутність посилань.