Google посилив цензуру на порнографію: що змінилося

• Упошуковій системі є функція, яка блокує порноконтент та вміст з елементами насилля.
• Алгоритм не є на 100% точним і працює тільки у Google Search, навіть якщо встановлено гуглівський браузер.
• Цензурування робить ШІ, який може не тільки видаляти небажаний вміст, а й виявляти кризові запити, наприклад, від потенційних самогубців.

Google удосконалив SafeSearch для безпечного користування пошуковиком. Зокрема, було додано окремий режим розмиття, який дозволяє не повністю прибирати небажаний вміст, а лише блюрити його, як це відбувається у соціальних мережах Instagram та Twitter. Повний захист автоматично вмикатиметься для всіх користувачів, а прибрати чи замінити його на блюр зможуть тільки повнолітні.

Заборона розповідає про оновлення системи безпеки у пошуковику Гугл.

Оновлення SafeSearch: як працює

Компанія-техногігант змінює функцію Google Search «Безпечний пошук», яка призначена для фільтрування видачі. Наприклад, контенту відвертого характеру: порнографії чи вмісту з елементами насильства. Оновлення тільки почали впроваджувати, але воно має запрацювати для користувачів в усьому світі вже до кінця весни, пише Tech Crunch.

Так, нині SafeSearch просто приховує некоректний за його критеріями вміст, однак незабаром з’явиться окремий режим розмиття. Він дозволить блюрити відверті зображення, якщо вони відповідатимуть результатам пошуку, а не повністю видаляти їх. Таким вмістом, наприклад, є порнографія, зображення насильства та крові.

Фільтр відтепер автоматично вмикатиметься для всіх користувачів. Неповнолітні юзери не зможуть вимкнути його чи виставити функцію блюру, тобто і надалі діятиме повне бокування. А от люди віком від 18 років матимуть доступ до налаштувань, у яких можна обрати режим. Це працюватиме так: 

• обираєте у налаштуваннях «розмиття»;
• якщо у результатах пошуку на якусь тему з’являється чутливий вміст, наприклад, зображення оголошених статевих органів, його розмиває;
• за бажанням ви все одно можете переглядати такі кадри, натиснувши на них — так само як у Twitter чи Instagram;
• є можливість обрати індивідуальні налаштування, тобто додати будь-які категорії вмісту, що розмиватиметься, наприклад, знімки футболістів;
• також можна повністю вимкнути SafeSearch.

Коли налаштування стане типовим, Google повідомить вас, що ввімкнув розмиття. Якщо ви натрапите на відверте зображення, ви можете вибрати його, натиснувши кнопку Переглянути зображення. Або ви можете налаштувати фільтр чи взагалі вимкнути його. При цьому SafeSearch працює лише з результатами пошуку Google і не блокує відвертий вміст, який ви знайдете в інших пошукових системах або на сайтах. Хоча функція не є на 100% точною, вона допомагає відфільтрувати вміст у результатах пошуку для всіх ваших запитів.

MUM і BERT: як Гугл використовує ШІ

SafeSearch функціонує завдяки заснованій на штучному інтелекті технології, яка має назву MUM і працює з березня 2022 року.

Модель вважається однією із найсучасніших у сфері фільтрації контенту і використовується не тільки для безпечного пошуку. Завдяки машинному навчанню й останнім удосконаленням MUM видаляє з Google Search неприйнятний контент, приміром, відеоролики з самогубствами чи вбивствами або кадри зґвалтувань. 

Також ШІ може автоматично виявляти широкий діапазон особистих кризових запитів, щоб зрозуміти намір, що стоїть за ними. 

«Раніше, коли люди шукали конфіденційну інформацію, як-от про самогубство, насильство чи інші теми, Google відображав контактну інформацію відповідних національних гарячих ліній над результатами пошуку. Але люди, які перебувають у кризових ситуаціях, можуть шукати за різними запитами і для системи не завжди очевидно, що вони потребують допомоги. MUM може виявляти ширший діапазон особистих кризових запитів», — кажуть експерти Tech Crunch.

До MUM більшість цих функцій були покладені на іншу ШІ-систему — BERT, однак у порівнянні з сучасною технологією вона має набагато менше можливостей та працює примітивніше. Тому її використовують для внутрішніх аналізів та досліджень компанії, зокрема, щоб допомогти Google зрозуміти, чи шукають люди відвертий вміст і у яких кількостях.

Раніше Заборона розповідала про функцію Гугл, яка може автоматично розшифровувати рецепти від лікарів та шукати згадані у них медичні препарати. У перспективі технологія допоможе розбирати й великі рукописні документи.