Канада виявила порушення конфіденційності у OpenAI: що змінилося після розслідування ChatGPT
Канадські органи з захисту приватності провели трирічне розслідування щодо компанії OpenAI, яка створила ChatGPT. Вони виявили, що на момент першого запуску ця компанія порушувала законодавство, неправомірно обробляючи особисті дані користувачів. Проте, відзначили, що згодом OpenAI внесла низку змін, які частково виправили ситуацію.
Що саме виявило розслідування?
Звіт, представлений у середу в Оттаві канадським комісаром з конфіденційності Філіпом Дюфреном, підтвердив, що OpenAI збирав величезні обсяги персональної інформації без належних запобіжних заходів і без дійсної згоди користувачів. Багато людей навіть не підозрювали, що їхні дані використовують для навчання ШІ-моделей.
Крім цього, OpenAI критикували за:
- відсутність зручного та ефективного способу для канадців виправляти чи видаляти свої особисті дані;
- пуск ChatGPT у роботу, не врахувавши відомі ризики для приватності;
- недостатнє інформування користувачів про неточності в роботі чат-бота.
Як OpenAI відреагувала на зауваження?
Після офіційного старту розслідування у квітні 2023 року OpenAI почала впроваджувати зміни. Серед них:
- фільтри для автоматичного виявлення та приховування персональних даних;
- технічні засоби, які перешкоджають ШІ розкривати особисту інформацію про відомих публічних осіб;
- офіційна політика зберігання та видалення даних.
Крім цього, OpenAI взяла на себе зобов’язання найближчим часом оприлюднити більше інформації про свої політики конфіденційності й джерела контенту, який використовується для навчання моделей. Також користувачів, які працюють із веб-версією ChatGPT без реєстрації, будуть більш чітко попереджати, що їхні розмови можуть слугувати для тренування ШІ, і радитимуть не передавати чутливу інформацію.
Позиція регуляторів та експертів
Філіп Дюфрен у пресконференції зазначив, що заходи, які OpenAI вже впровадила й планує ввести, повністю усувають порушення, виявлені під час розслідування.
Водночас інші представники влади та науковці пропонують і далі вдосконалювати правове поле. Зокрема:
- Представниця комісії з доступу до інформації провінції Квебек Наомі Айотт повідомила, що хоча регулятор має повноваження накладати штрафи, цього разу обрали рекомендації натомість;
- Юридичний експерт Тереза Скаса назвала цей звіт прикладом конструктивної співпраці між промисловістю та регуляторами;
- Провінційні комісари закликали оновити законодавство, включаючи розширення нагляду, впровадження штрафів та проведення оцінок впливу перед запуском нових технологій.
Виклики сучасного законодавства
Канадський уряд і далі працює над оновленням правил захисту особистих даних. Найбільший виклик полягає у згоді на збір інформації, бо штучний інтелект навчається на великих масивах відкритих даних Інтернету.
Університетські викладачі та правники вважають, що отримувати індивідуальну явну згоду на використання таких даних складно, тому акцент слід робити на принципах прозорості, підзвітності і адекватних заходах безпеки.
Федеральний міністр з питань штучного інтелекту Еван Соломон наголосив: “Технологічний ландшафт швидко змінюється, й канадці заслуговують на сучасну та повноцінну систему захисту, яка відповідає цим викликам”.
Що далі для користувачів і розробників?
Очевидно, що галузь штучного інтелекту продовжує еволюціонувати, а разом із нею і практики збереження приватності. OpenAI вже вивела з експлуатації застарілі моделі, а нові методи фільтрації значно зменшили використання чутливих даних у навчанні чат-ботів.
Канадські регулятори закликають до більш суворих правил, а користувачам радять уважніше ставитися до того, яку інформацію вони діляться в чатах і на платформах на базі ШІ.
