На ШІ готують перший в історії судовий позов: у чому звинувачують

• Австралійський чиновник виявив, що ChatGPT у відповідь на запити про нього видає фейкову інформацію.
• Юристи направили в OpenAI лист з проханням виправити дані, адже це може вдарити по кар’єрі політика, але відповіді не отримали.
• В Австралії за наклеп передбачена грошова компенсація. Сума залежить від кількості людей, яких ошукав фейк.

Компанію-розробника звинувачують у тому, що чат-бот ChatGPT видає фейкову інформацію про людей. Саме цей кейс стосується мера одного з міст, але це не єдиний випадок, коли технологія видає неправдиві дані, тож справа може стати не останньою.

Заборона розповідає про справу мера Хепберн-Шайру і OpenAI.

Браян Гуд проти ChatGPT: коротко про справу

Мер австралійського міста Хепберн-Шайр, що за 120 км на північний захід від Мельбурна, Браян Гуд виявив, що ChatGPT у відповідь на запити про нього видає фейкову інформацію, пише Reuters.

Штучний інтелект стверджує, що чоловік нібито відбув термін у в’язниці за обвинуваченням у корупції. Це, написа чат-бот, сталося у 2000 роках, коли Гуд працював у Резервному банку Австралії, який є дочірньою компанією Note Printing Australia.

«Гуд дійсно працював на дочірню компанію Note Printing Australia, але він був тим, хто якраз інформував владу про виплату хабарів іноземним чиновникам для отримання контрактів на друк валюти. Йому ніколи не пред’являли звинувачень у злочині», — кажуть адвокати мера.

Юристи надіслали лист OpenAI, яка є власником ChatGPT. За 28 днів компанія має виправити помилки, інакше буде подано підготовлений позов до суду. В OpenAI, за словами юристів, станом на 5 квітня на лист так і не відповіли. На запит Reuters про коментар там також не відреагували.

Якщо справа дійде до суду, це буде перший випадок в історії, коли людина подала позов на ШІ. «Це потенційно буде знаковим моментом у тому сенсі, що закон про наклеп буде застосовано абсолютно до нової сфери — штучного інтелекту та публікацій в ІТ-просторі. Гуд на виборній посаді, його репутація є центральною для його ролі. Тому для нього має значення, чи люди в його спільноті отримають доступ до цього матеріалу», — сказав Reuters один із юристів чиновника Джеймс Нотон.

В Австралії, як пояснив адвокат, за наклеп передбачена грошова компенсація. Зазвичай сума не перевищує $300 000. Фінальний розмір виплати залежить від кількості людей, які були введені в оману, прочитавши фейкову інформацію про фігуранта. Враховуючи цей фактор, а також можливий вплив на його політичну кар’єру, Гуд може вимагати понад $133 561. Також компанію мають зобов’язати виправити усі неточності.

Зазначимо, що в україномовній версії ChatGPT інформація про випадки хабарництва чи арешти Гуда відсутня.

ChatGPT: що це таке 

ChatGPT — революційний чат-бот зі штучним інтелектом, розроблений американською лабораторією OpenAI. Для публічного використання був запущений у грудні 2022 року.

Технологія належить до класу моделей обробки природної мови для машинного навчання, також відомих як великі мовні моделі (Large Language Model, LLM). Його алгоритми використовують багаторівневу нейронну мережу для обробки нескінченної кількості текстових даних, щоб розуміти контекст, релевантність і те, як генерувати відповіді, наче справжня людина. З практичної точки зору програма може виконувати такі завдання:

• генерація тексту;
• доповнення тексту;
• відповіді на запитання;
• підбиття підсумків (резюмування);
• переклад тексту (здатен обробляти до 4095 лексем);
• ведення діалогу;
• аналіз настроїв;
• розпізнавання частин мови.

В основі лежить технологія GPT-3.5, покращена версія GPT-3 (Generative Pre-trained Transformer 3). Це попередньо навчена великомасштабна мовна модель, яку інженерам ШІ вдалося розвинути завдяки комбінуванню керованого навчання та навчання з підкріпленням. А для досягнення більш точних та коректних відповідей нейромережу кілька разів перенавчали, використовуючи її власні відповіді.

Для просіювання величезного масиву інтернет-даних ChatGPT використовує трансформерну архітектуру, тобто має кодер для обробки вхідної послідовності даних та декодер для генерації вихідної. При цьому і кодер, і декодер мають спеціальні механізми, що дозволяють моделі зважувати окремі частини послідовностей для визначення контексту та встановлення зв’язків між словами.

Від попередніх версій проєкту OpenAI GPT-3.5 відрізняється наявністю зворотного зв’язку з людиною та масштабом обчислювальної роботи. 

Раніше Заборона розповідала про фейкові результати, які видає чат-бот щодо відомої російської пропагандистки Маргарити Симоньян.