Канадські регулятори виявили порушення у зборі даних ChatGPT, які суперечать законам про приватність
Спільне розслідування порушень у роботі OpenAI
Федеральні та провінційні органи контролю у сфері захисту персональних даних Канади дійшли висновку, що частина процедур OpenAI щодо збору, використання та розкриття інформації через ChatGPT не відповідала діючим законам про приватність у приватному секторі. Особлива увага приділялася навчанню моделей на основі відкритих даних з Інтернету та взаємодій користувачів із сервісом.
Розслідування проводили Одночасно Офіс Уповноваженого з питань приватності Канади, Комісія з доступу до інформації Квебеку, а також Уповноважені з приватності Британської Колумбії та Альберти. Ця команда експертів досліджувала процеси OpenAI, зокрема моделі GPT-3.5 та GPT-4, що використовуються у ChatGPT.
Що саме перевіряли регулятори?
У центрі уваги було дотримання вимог щодо:
- цілей збору даних;
- отримання згоди;
- прозорості;
- точності інформації;
- доступу до персональних даних;
- термінів зберігання;
- відповідальності за обробку інформації.
Особливо перевірялися джерела інформації: відкриті інтернет-ресурси, ліцензовані набори даних від третіх сторін та взаємодія користувачів із ChatGPT.
Головні знахідки і зауваження
Регулятори визнали, що цілі OpenAI щодо розвитку й використання ChatGPT є цілком адекватними й законними. Але вони звернули увагу на надмірний характер початкового збору персональних даних із відкритих вебсайтів і зовнішніх джерел, що призвело до порушень.
Причини таких порушень включають:
- величезні обсяги оброблюваних даних;
- наявність чутливої інформації;
- можливу неточність отриманих даних;
- обмежену ефективність заходів, що применшували ризики на момент збору.
Також було встановлено, що OpenAI не отримала дійсної згоди на збір та використання персональної інформації з публічних джерел для навчання моделей. Передбачена мовчазна згода вважалася недостатньою, адже в цих даних могли міститися особисті, а інколи й конфіденційні деталі, а також не було очевидно, що інформація, викладена в Інтернеті, буде застосована саме так.
Щодо взаємодій користувачів із ChatGPT
Регулятори погодилися, що використання деяких даних з чатів для вдосконалення моделей є логічним і виправданим. Проте вони наголосили — потрібна була чітка, явна згода користувачів.
Інші зауваження стосувалися:
- недостатньої сили захисних заходів для запобігання включення чутливої інформації у навчальні набори;
- незрозумілості для більшості користувачів того, що їхні розмови можуть бути використані для тренування моделей або перевірки людьми.
Розкриття інформації через відповіді ChatGPT
У доповіді підкреслено, що OpenAI мала отримувати явну згоду на певні випадки розголошення персональних даних через результати роботи ChatGPT, особливо коли ця інформація була чутливою або виходила за межі логічних очікувань користувачів.
Хоча OpenAI й впровадила деякі механізми для мінімізації ризику подібних витоків, їхня сфера застосування стосувалася замалої кількості даних, що врегульовуються законами про захист приватності.
Дізнавайтесь більше про штучний інтелект, технології та цифрову дипломатію!
Якщо вас цікавить ця тематика, не вагайтесь звернутися до нашого чатбота Diplo для отримання корисної інформації.
