Документи, які розкривають правду про штучний інтелект: як OpenAI і Microsoft змінюють інтернет
Нещодавно розсекречені судові документи у справі New York Times проти OpenAI та Microsoft вражають своєю відвертістю. У них йдеться про те, що компанії самі визнавали початок так званої “петлі знищення”, яка шкодить інтернету, описували збір даних для тренування моделей як “найбільше крадіжку праці в історії людства”, а також заявляли, що це робить “повну насмішку над ідеєю добросовісного використання” (fair use).
Серйозні цитати з документації Microsoft
Особливо резонансні висловлювання походять від директора з прикладної науки Microsoft, Брента Гехта. Хоча компанія намагалась дистанціюватись від його заяв. Прес-секретар Microsoft Алекс Хоурек повідомив The Verge, що “ці коментарі відображають індивідуальну думку співробітника, не є юридичним аналізом і не репрезентують позицію компанії”.
В іншій судовій заяві Джордан Юсдан, генеральний менеджер з даних Microsoft AI, визначив роль Гехта як опозиційну, пояснюючи, що той має “розбіжні, академічні і футуристичні погляди на те, як повинні функціонувати екосистеми даних для AI, але не промовляє від імені Microsoft з приводу потенційного впливу AI на творців контенту”.
Реальність прогнози в документах: Google Zero і поглинання інтернету AI
Незалежно від бажання Microsoft відмовитися від цих висловлювань, факт залишається фактом — прогнози справдились: Google Zero реальний, а штучний інтелект “з’їдає” інтернет!
Документи розкривають думки не лише Гехта, а й інших ключових фігур, зокрема Сатьї Наделли, Сема Альтмана і співробітників OpenAI. Ось короткий огляд найяскравіших цитат та фактів з 92-сторінкової заяви.
“Вражаюча крадіжка” – наймасштабніше порушення праці?
- Брент Гехт назвав збір даних ChatGPT і Copilot “найбільшою крадіжкою праці в історії людства”.
- Вказав, що захист Microsoft з посиланням на добросовісне використання став “повною насмішкою” через те, що модель замінює оригінальний контент.
- OpenAI очільник ChatGPT визнавав, що видача їх системами викликатиме “екзистенційну загрозу” для видавців.
Початок “деградаційного циклу” в інтернеті
CEO Microsoft Сатья Наделла публічно підтвердив, що взаємодія з чатботами фактично заміщує традиційний пошук інформації, позбавляючи користувачів необхідності відвідувати первинні джерела.
Ще більш тривожні факти містяться в інтерних документах, які попереджають про так званий “doom loop” — петлю знищення, коли кінцевий продукт загрожує економічним підвалинам своїх постачальників контенту.
Грошові мотиви в центрі уваги
- Співзасновник OpenAI Ґрег Брокман відкрито говорив про свій інтерес до “величезних сум”, які можна заробити на комерціалізації AI.
- Відомо про плани OpenAI здійснити IPO із оцінкою компанії у трильйон доларів.
- Попри заяви про доброчинність, комерційні інтереси стоять на передньому плані.
Ігнорування платного доступу і порушення правил
У спробах зібрати якомога більше тренувальних даних, OpenAI і Microsoft обійшли платні стіни і порушували умови використання контенту. Представник OpenAI зізнавався, що компанія не здійснювала перевірок на предмет видалення платного контенту з навчальних dataset-ів.
“Неймовірна схильність до відтворення” — чим небезпечне навчання моделей
OpenAI визнавали, що їхні моделі мають здатність відтворювати вхідний контент дослівно. Вже у 2021 році вони розглядали запобігання “запам’ятовуванню” як необхідний крок для мінімізації порушень авторських прав.
Проте, станом на червень 2022 року, співробітники компанії визнавали, що GPT-4 “запам’ятав тонни даних і тому буде неймовірно добрим у відтворенні інформації”. Як наслідок, ChatGPT приводив до плагіату, прямо цитуючи тексти різних видань, в тому числі New York Times та LifeHacker.
Поглинання праці творців контенту
- Microsoft визнавала, що мільйони людей сприйматимуть великі моделі як “насмоктувачів” усієї їх праці.
- Прийнято було усвідомлення, що творці контенту не передбачали такого використання своїх матеріалів і не отримують компенсації.
- Це ж порушує основи добросовісного використання в авторському праві, ставлячи під загрозу майбутнє створення контенту.
Штучний інтелект як заміна етосу творчої праці
Директор із політики OpenAI Джек Кларк наголошував, що діяльність компанії все більше веде до створення систем, які замінюють працю людей, що формують культурний ландшафт суспільства.
У документах ChatGPT порівнюється з “сучасним газетним кіоском”, надаючи швидкі відповіді, які раніше вимагали звернення до пошуковика.
За словами співробітників OpenAI, після отримання відповіді від чатбота користувачі майже не мають причин натискати на посилання-первинне джерело.
Власний ланцюг поставок контенту під ударом
У документах Microsoft визнають, що навчальні великі моделі (LLM) конкурують зі своїм власним ланцюгом поставок контенту. Це призводить до ризику “значного порушення зайнятості” тих людей, які створили дані, на яких тренуються моделі.
Висновок дуже простий — великі моделі є продуктом, який руйнує свою власну основу.
Зниження трафіку на сайти видавців через AI
Експерти OpenAI з економіки та медіа пов’язують значне зниження реферального трафіку, наприклад, на сайти New York Times, із інтеграцією AI-саммрі на кшталт Google AI Overviews.
За деякими оцінками, пошукові реферали могли впасти у діапазоні від 20 до 60 відсотків.
Пояснення Microsoft
Представник Microsoft Алекс Хоурек застеріг, що свідчення Сатья Наделли і позиція компанії стосовно змін у способах пошуку та споживання інформації не повинні бути сприйняті як однозначні висновки з питань авторського права, що розглядаються в суді.
Документи натякають на те, що і Microsoft, і OpenAI розуміли потенційну шкоду для видавничої галузі та її працівників. Втім, в гонитві за неабиякими прибутками, вони продовжували розвивати свої продукти, навіть знаючи про “петлю знищення”, яку створюють.
