Канада виявила порушення OpenAI щодо конфіденційності у ChatGPT: що сталося?
Канадські органи контролю за дотриманням приватності, зокрема Офіс Комісара з конфіденційності Канади та провінційні органи, провели спільне розслідування, у результаті якого виявили, що практика збору і обробки даних для тренування ChatGPT від OpenAI порушує канадське законодавство про захист персональної інформації. Звіт було оприлюднено 6 травня 2024 року, де було зафіксовано низку порушень, таких як надмірний збір даних, використання інформації без згоди, проблеми з доступом користувачів до їхніх даних та інші недоліки.
Історія розслідування та ключові претензії
Слідство почалося у 2023 році за ініціативою Офісу Комісара з конфіденційності (OPC) у тандемі з Квебекським органом захисту даних – Комісією доступу до інформації, а також комісарами з питань конфіденційності з Британської Колумбії та Альберти.
Філіп Дюфрен, Комісар з конфіденційності Канади, підкреслив, що OpenAI запустила ChatGPT, не усунувши всі відомі проблеми з приватністю, що залишає громадян країни уразливими для потенційних порушень і дискримінації на основі їхніх особистих даних.
Порушення, які викликали занепокоєння
Результати розслідування охопили декілька аспектів:
- Надмірний збір особистої інформації з інтернет-джерел без чіткої згоди;
- Недостатній рівень прозорості щодо використання цих даних у навчанні моделей штучного інтелекту;
- Помилки у моделях, що призводять до неточностей у відповідях;
- Відсутність надійних процедур видалення та зберігання персональних даних.
Ці висновки свідчать про значні ризики для конфіденційності, пов’язані з великими мовними моделями, що навчаються на мільярдах загальнодоступних даних без належного врегулювання.
Реакція регуляторів і виклики для законодавства
Дослідники наголосили: компанії, що розробляють штучний інтелект, повинні дбати про дотримання прав громадян на приватність і не можуть просто «знімати» великі масиви даних без належного контролю. Адже власники інформації часто навіть не підозрюють, що їхні персональні дані можуть бути зібрані та проаналізовані без їхнього відома.
Регулятори заявили про необхідність модернізації як федерального, так і провінційного законодавства для усунення прогалин у регулюванні новітніх технологій та захисту користувачів від цифрових ризиків.
- Цифрові технології стають дедалі складнішими, і закони мають відповідати темпам розвитку.
- Важливо впроваджувати прозорі механізми контролю і нагляд за обробкою персональних даних.
- Законодавчі ініціативи мають підкреслити пріоритет прав людини і безпеку інформації.
Майкл Харві, Комісар з інформаційної безпеки Британської Колумбії, зазначив, що оновлення правил не означає послаблення захисту — навпаки, потрібно закладати основи для довіри та відповідальної інновації.
Відповідь OpenAI та подальші кроки
Через активну співпрацю з органами контролю OpenAI наразі не було застосовано штрафних санкцій. Натомість компанія отримала низку рекомендацій, які зобов’язалася виконати.
Основні заходи, які OpenAI планує впровадити, включають:
- Оновлення політики видалення особистих даних;
- Покращення прозорості у роботі та інформуванні користувачів;
- Зменшення обсягу чутливої інформації, що використовується для тренування моделей;
- Підвищення стандартів точності відповідей.
За словами Філіпа Дюфрена, ці кроки значно зменшать ризики загроз приватності й допоможуть користувачам краще розуміти наслідки взаємодії з ChatGPT.
Діана МакЛеод, Комісар з інформації та приватності Альберти, відзначила важливість відповідальності і попереджувального підходу в регулюванні сектору штучного інтелекту, сподіваючись, що цей випадок стане уроком не лише для OpenAI, а й для інших технологічних компаній.
