Все більше людей в усьому світі користуються штучним інтелектом для створення картинок, в тому числі — для дезінформації, викривлення реальності та впливу на вразливих людей. Що більше розвиваються мережі з ШІ, то більше викликів постає перед суспільством. Головна редакторка Заборони Катерина Сергацкова поспілкувалася з дослідником впливу штучного інтелекту на візуальну культуру Фредом Рітчіном — про те, чи етично створювати зображення людини, яка нібито є жертвою відомої катастрофи (але насправді ніколи не існувала), та як фейкові фото розмивають довіру до фотожурналістики.
Фред Рітчін — письменник, викладач, редактор і куратор. Він написав три книги про майбутнє зображення: In Our Own Image (1990), After Photography (2008) та Bending the Frame (2013). Він є почесним деканом Міжнародного центру фотографії та викладає в різних закладах, зосереджуючись на стратегіях зображення задля захисту прав людини.
Фред Рітчін. Нью-Йорк, жовтень 2022 року. Фото зроблене під час розмови про Український фотоархів війни. Фото: Катерина Сергацкова / Заборона
— Нещодавно у твіттері українського парламенту з’явився пост про трагедію в Дніпрі, де росіяни обстріляли житловий будинок. Інформацію проілюстрували картинкою, створеною штучним інтелектом. На ній була заплакана дитина, а за нею — зруйнована будівля. За 20 хвилин твіт видалили — користувачі почали скаржитися, що це неетично. Багато подібних речей трапляється в усьому світі, відколи механізми штучного інтелекту почали поширюватись, але, мабуть, це був перший випадок за участі офіційних органів, який я побачила. Що саме тут, на вашу думку, є неетичним?
— Проблема в тому, що ви відкриваєте двері для всіх, хто цим [генеруванням зображень] займається. Ви можете взяти щасливих українських дітей або нещасних, або когось геть іншого — росіян, приміром. Я думаю, що коли ви використовуєте ШІ, ви повинні бути дуже обережними, наприклад, якщо ви хочете сказати, що ШІ прогнозує, що війна триватиме ще два роки, то це те, на що ви повинні дивитися, а потім контекстуалізувати. Наприклад, у випадку зі зміною клімату ми можемо передбачити, як виглядатиме місто чи деінде через 5 років, якщо ми нічого не змінимо. Але як тільки ви відкриваєте штучний інтелект, будь-хто може робити те, що хоче — це дуже легко, це може зробити 12-річна дитина, і це майже безплатно. І вони викладають це в соціальні мережі.
Скриншот з твіту Верховної Ради
— Я думаю, що для [чиновників] дуже небезпечно починати використовувати ШІ у такий спосіб. Якщо ви хочете зробити меморіал і показати це людям, треба шукати інші способи це зробити. Є багато прикладів: авіакатастрофа, коли показують речі людей, що загинули, те, що вони залишили після себе — наприклад, їхнє взуття. Необов’язково показувати людину, але впровадження ШІ, на мою думку, відкриває війну штучного інтелекту, де всі все показують, допоки усі не почнуть зневірюватися в тому, що правда, а що ні, — і війна стане абстракцією.
— Як ви думаєте, чи можемо ми дійти до того, що ніхто більше не буде покладатися на зображення?
— Так, про це я пишу книгу, і багато думаю, що ми можемо з цим зробити. Одна з ідей — достовірні джерела. Будь-який письменник може сказати що завгодно, але коли це походить від Associated Press, NYTimes, надійного джерела — є намір вірити. Я думаю, ми повинні бути дуже обережними з надійними джерелами, а це означає, що фотографи повинні публікувати те, в чому вони абсолютно впевнені. Так само як і будь-який інший журналіст повинен розуміти, що він робить, зберігати довіру людей. Ви не можете просто вірити у фотографію, бо вона виглядає як фотографія.
— Це стало вірусним: люди систематично використовують штучний інтелект [для генерації зображень]. Чи знаєте ви якісь можливості щось із цим зробити?
— Я думаю, потрібно зробити так, щоб люди не могли ретушувати фотографії і не могли масово використовувати фотошоп. Отже, посилання на сайт фотографа працює, тому що там ви можете переконатися, що саме ця людина не використовує ШІ для створення фотографій. Також у цьому випадку важливо не використовувати лише одне зображення — краще кілька або навіть відео, і, можливо, використовувати особистий профіль, щоб показати, що це ти, і ти був там і знімав війну кілька місяців, а це твій щоденник і розповідь від першої особи. Фотожурналістика — те, що йде від першої особи. Використовуйте слова, аудіо. Ми живемо в мультимедійному середовищі.
Коли я беру інтерв’ю в людини, я даю текст, але ставлю посилання, за яким читач може побачити людину на відео. І тоді ви починаєте вірити в реальність бесіди. Важливо бути відокремленим від штучного інтелекту та людей, які постійно користуються фотошопом. Чому хтось має мені вірити як письменнику? Це ж просто слова. Але у мене є репутація, і я повинен її підтримувати.
— Чи вважаєте ви, що має бути укладений новий суспільний договір щодо зображень та їхнього використання?
— Я думаю, що треба починати індивідуально. Якщо я фотограф, ви можете натиснути на моє ім’я і побачити мій кодекс фотоетики, [де сказано, що] я нічого не підлаштовую, не нав’язую щось людям, не удаю, що відбувається щось інше. Я відповідаю за свої зображення. Це легко зробити. Ви можете написати власний кодекс фотоетики у двох реченнях. Я фотожурналіст, і всі мої фотографії — це інтерпретації, але вони також є документацією реальності, і я не граюся з цим, а висвітлюю це вже пів року, чи сім, чи скільки там. Камери вже недостатньо, [більше не можна вважати зображення достовірним] просто тому, що це зроблено камерою.
— Чи це змінило сенс підписів до фото?
— Так, це змінило все. Я думаю, що підписи можуть бути об’ємнішими, відповідними. Наприклад, ви пишете, що 14 січня, [в день обстрілу житлового будинку в Дніпрі], я побачив двох дівчаток, які гралися в парку, а через 30 хвилин стався обстріл. І ви могли б робити більше таких речей. Крім того, непогана ідея для фотографа — сказати, що він відчуває. Так само як і письменник, він може сказати, наскільки це було приголомшливо.
— У своїй статті для Revue ви написали, що зображення з ШІ можуть бути використані як зброя для заохочення расизму та мізогінії, а також для провокування насильницьких конфліктів, що підривають демократичний процес. Чи могли б ви детальніше розповісти про це?
— Ви можете зробити фотографію того, як хтось краде щось, хоча він ніколи цього не робив, а якщо у вас є зображення білих людей, які крадуть речі, чи іноземців, чи угорців, — кого завгодно, — ви можете використовувати їх як зброю, щоб показати те, чого ніколи не було. Скажімо, є фотографія російського солдата, а на задньому плані багато мертвих людей, і ви можете легко змусити його посміхатися за допомогою штучного інтелекту або фотошопу. Це зброя, це пропаганда, і на цьому етапі все розвалюється. Особливо в соціальних мережах, тому що там більше немає фільтрів. Коли я працював у NYTimes, у нас був фільтр, щоб переконатися в автентичності фото, — це ж твоя репутація. А в соціальних мережах люди можуть публікувати все що завгодно.
— Навіщо людям це робити? У вас є пояснення?
— Багато причин: наприклад, я ненавиджу росіян, я ненавиджу українців, американців, кого завгодно. Коли [демократ] Джон Керрі балотувався в президенти, якийсь хлопець за допомогою фотошопу помістив його на фото поруч із Джейн Фондою — актрисою, яку багато хто ненавидить за те, що вона їздила до Північного В’єтнаму і вважається антиамериканкою. Але він ніколи з нею не зустрічався. Такі речі дуже легко зробити зброєю.
Користувачі соцмереж поширювали фотографію, де актриса Джейн Фонда з політиком Джоном Керрі нібито беруть участь в антивоєнному мітингу. Цей знімок був відретушований понад 19 років тому.
— Але ж ви можете сказати, що ви ніколи не бачили цю жінку [або що це фотошоп].
— Це було 20 років тому. Я зустрічав багато людей — можливо, вона стояла поруч зі мною, і я запитую себе, чи дійсно це було. І це справді страшно, тому що ти не знаєш, що було, а що ні. Мільйони зроблених штучним інтелектом зображень щодня з’являються в інтернеті, і тому найкраще, що може зробити фотограф або відеооператор, — це помістити кожну свою роботу в контекст, щоб їй можна було довіряти.
Головний заголовок сьогоднішнього випуску газети NYTimes — про те, як університети змінюють методи викладання через використання штучного інтелекту для роботи з текстами, адже їхні студенти пишуть есе за допомогою ШІ, і те ж саме може статися і з зображеннями. Вони також не знають, як працювати з текстом. Все рухається дуже, дуже швидко.
Зображення, створене штучним інтелектом за запитом «Найбільш знакова фотографія війни в Україні». Катерина Сергацкова / Заборона
— Чи вважаєте ви, що в цьому сенсі зображення потужніші за тексти?
— Для мене проблема полягає в тому, що фотографії можуть бути знаковими, вони можуть створити велику міжнародну дискусію, і фотографії з В’єтнаму, на мою думку, мали великий вплив на США, щоб зупинити війну. Фотографії війни в Афганістані, яка тривала 20 років, не є знаковими. Тому ви не можете використовувати їх, щоб протистояти війні.
На мою думку, під час війни в Україні ми бачимо все більше зображень, на які люди не реагують. Тому важливе питання про те, які інші зображення можна було б зробити, щоб змусити людей реагувати. Це можуть бути не лише образи насильства, а й інші аспекти того, що відбувається в Україні чи з біженцями. І це важливе питання — як змусити людей і уряди реагувати, тому що якщо це лише руйнування, то воно повторюється, і люди не реагують. Я не думаю, що з 2015 року, коли трирічний хлопчик [Алан Курді, який загинув з родичами, коли разом з ними] намагався покинути Сирію, або після відео з Джорджем Флойдом, якого вбила поліція, з’явилася якась знакова фотографія на міжнародному рівні. І в цьому є проблема. Але у випадку України я хотів би запитати: які саме зображення допоможуть людям зрозуміти жах війни та відреагувати на неї? Це може бути щось інше ніж руйнування. Коли я працював над фотокнигою з молодими людьми в Україні, я показував їм не злочини чи руйнування, а ідею, що фотографії можуть бути доволі простими — навіть дуже банальні зображення, наприклад, фермера і корови.
Коли ми працювали в Руанді над темою геноциду, NYT хотіли показати надію дітей, а не жертв. І це мало більший вплив. І те відео про Джорджа Флойда було зроблене аматором, а не професіоналом, і багато чудових фотографій зроблено солдатами, а не професіоналами. Людям цікаво, як це — виживати, намагатися розважатися, спати вночі під час війни, або що ти бачиш першим вранці, або що не можеш заснути через війну. Іноді професіонали бачать великі речі, але не бачать дрібниць, які дуже важливі.
Турецькі жандарми стоять біля викинутого на берег тіла дитини, ідентифікованого як Алан Курді, який потонув під час невдалої спроби доплисти до грецького острова Кос. Берег міста Бодрум, Туреччина, 2 вересня 2015 року. Фото: EPA / DOGAN NEWS AGENCY
— Тобто ви вважаєте, що в Україні немає жодного знакового зображення з війни? Чи були фотографії, які вас зачепили?
— Звичайно, були сильні фотографії. Наприклад, фото Лінсі Аддаріо, на якому вся сім’я вбита на вулиці [фото було зроблено в Ірпені у березні 2022 року]. Але я намагаюся з’ясувати, які саме зображення можуть змусити людей співчувати: наприклад, бабуся і дідусь у квартирі без тепла. Всі розуміють, що таке бути старим без їжі — в будь-якій країні. Тому є багато способів, як це зробити, щоб навести мости і зв’язки.
Коли я писав про війну у В’єтнамі, я бачив фотографії посвідчень 240 загиблих молодих американських солдатів. Журнал Life вважав, що саме це має на меті налаштувати людей проти війни, а не фотографії руйнувань. І люди казали: «О, це може бути мій кузен, брат чи сусід». Я думаю, що нам потрібно використовувати набагато більше стратегій.
Heartbreaking photo by @lynseyaddario @nytimes all the world should see. 'Ukrainian soldiers trying to save the father of a family of four — the only one at that moment who still had a pulse — moments after being hit by a mortar while trying to flee Irpin' https://t.co/OTpDQjxcqb pic.twitter.com/uhbzg0ZyW5
— cindygallop.eth (@cindygallop) March 6, 2022
— Ви пам’ятаєте фотографії з Маріуполя, зроблені Євгеном Малолєткою? Вторгнення тільки почалося, Росія дуже інтенсивно обстрілювала місто, Малолєтка зробив кілька фотографій жінок у пологовому будинку. Вони були скрізь, і люди [в Україні] вірили, що ці фотографії можуть щось змінити. Але, думаю, в підсумку вони нічого не змінили.
— Мабуть, ви маєте рацію, але в більшості країн більше немає перших шпальт новин, немає друкованих газет — тому у нас більше немає фотографій, які стоять, як ікони. На екрані все маленьке, і немає про що говорити. На першій сторінці газети ви розмовляєте з людьми, створюєте спільноту. Тож ви не можете використовувати ідеї зображень XX століття у XXI, тому що у нас вже немає тих механізмів презентації. Крім того, ми бачимо забагато зображень, а на першій сторінці — лише одне. В інтернеті не можна зосередитися. Це абсолютно новий світ. Так багато речей, які вже нічого не означають.
Співробітники МНС і волонтери виносять поранену вагітну жінку з постраждалого внаслідок російських обстрілів пологового будинку в Маріуполі, 9 березня 2022 року. Дитина народилася мертвою; через пів години померла і мати. Фото: AP Photo / Євген Малолєтка
— Чи вважаєте ви, що в цьому абсолютно новому світі можуть відбутися зміни?
— Це не одна зміна, а багато змін: білборди, плакати, мультимедійні проєкти. Змусити дітей [на війні] говорити про те, що ти їв на вечерю, який твій улюблений вид спорту, або що твій батько робить на війні, або що у тебе більше немає батька.
— І хто має цим займатися? Редактори, журналісти?
— Усі мають бути залучені в різні способи.
— Мені здається, що багато людей створюють картинку того, чого ніколи не існувало, щоб привернути увагу.
— Добре, я роблю, наприклад, фотографію першої жінки-президента у Франції, якої ніколи не було, або іншого чорношкірого президента США. Ви можете робити це певними способами, але, знову ж таки, ШІ може бути цікавим у майбутньому, щоб спровокувати дебати. Англійською це називається liars’ dividend — «дивіденди брехуна»: коли з’являється так багато фейкових фотографій, що ми перестаємо вірити в правдиві. І ще одна проблема полягає в тому, що професіонали роблять одні й ті самі фотографії знову і знову.
Варіації зображень, зроблених штучним інтелектом, за запитом «Найбільш знакова фотографія війни в Україні». Катерина Сергацкова / Заборона
— Штучний інтелект може змінити фотографію?
— Так. Якщо я запитаю українську дитину: «Яка твоя мрія чи кошмар?» і вкладу це в штучний інтелект, покажу зображення дитині й опублікую його, це може бути справді цікаво. «Ось про що мріє 12-річна дитина в Україні». Або запитайте тих же людей похилого віку. Комусь 85 років. Чого ви боїтеся в Україні? Вони вам це описують, а ви їм показуєте фотографію, яку зробив ШІ. Це схоже на вашу мрію чи страх? Але це не те, про що ми говорили на початку.
— Теоретично, чи може штучний інтелект змінити фотографію так, щоб підвищити довіру до документальної фотографії чи журналістики?
— Одну річ я вже засвоїв: використовуючи штучний інтелект, я завжди дивуюся. Я майже ніколи не дивуюся фотографіям справжніх фотографів — це завжди щось очікуване, я знаю, що побачу, — але фотографії, зроблені штучним інтелектом, мене дивують. Я запитую, яка найкраща мати у світі, а він показує мені горилу, а не людину, і це чудово, тому що я ніколи не думав, що тварини можуть бути кращими матерями, ніж люди. Я пам’ятаю, як один чоловік працював зі мною в Іраку під час війни, і він фотографував те, що їдять люди, їхні страви, — я ніколи раніше такого не бачив. Це повсякденні речі, які гуманізують [війну]. Тому що найважливіше для мене в кінці дня — це те, що люди залишаються людьми. І солдати не є жорстокими людьми — вони є людьми. Вони застрягли в цій жахливій війні, у них є батьки та друзі, і ти починаєш їм співчувати.
Я читав лекцію про дівчину, яка ходить до стоматолога в Іраку під час війни, і це була найважливіша картинка, тому що вони такі ж люди, як і ми — вони йдуть до стоматолога. Вони не вбивають людей весь час. Вони хочуть хорошого життя, хочуть бути щасливими. Як і українці, вони мали б бути жорстокими через війну, але ні: вони просто люди.
