Як ChatGPT порушує канадські закони про конфіденційність — результати спільного розслідування
OpenAI не врахувала канадське законодавство про захист персональних даних під час тренування свого популярного чатбота ChatGPT. Це призвело до збирання й використання чутливої особистої інформації користувачів без їхньої згоди, про що свідчить спільне розслідування кількох канадських органів нагляду за конфіденційністю.
Хто проводив розслідування та з чого воно почалося?
Федеральний комісар із питань конфіденційності разом зі своїми колегами з Квебеку, Британської Колумбії та Альберти розпочали перевірку у 2023 році після скарги, що OpenAI незаконно збирає персональні дані та використовує їх без дозволу. Розслідування виявило низку проблем, які свідчать про невідповідність початкового тренування ChatGPT місцевим законам.
Основні порушення, виявлені під час розслідування
- Обробка величезних обсягів персональних даних без належних засобів захисту.
- Отримання чутливої інформації, зокрема медичних даних, політичних переконань і відомостей про дітей.
- Незнання багатьох користувачів про те, що їхні дані збираються і застосовуються для навчання моделей штучного інтелекту.
Філіп Дюфрен, федеральний комісар із конфіденційності, зазначив, що запуск продукту без повного врахування відомих проблем конфіденційності піддає канадців ризикам, таким як витоки даних та дискримінація.
Відповідь OpenAI: відповідальність і подальші кроки
Компанія заперечила деякі висновки, стверджуючи, що у більшості аспектів вона дотримується чинного законодавства. Натомість після розслідування OpenAI вжила заходів для покращення захисту даних і погодилась впровадити додаткові обмеження та протоколи.
Нещодавно компанія оприлюднила докладний допис, у якому пояснила, як саме і які дані канадців можуть бути використані для навчання моделей. Відповідно, використовуються лише відкриті і публічно доступні джерела, а також застосовується фільтр конфіденційності для маскування особистої інформації.
У компанії наголосили на розумінні відповідальності за довіру користувачів, особливо коли вони звертаються з особистими чи чутливими питаннями. Водночас OpenAI продовжує вдосконалювати алгоритми для виявлення загроз і водночас зберігати конфіденційність даних.
Чому в Канаді потрібно оновлювати закони про конфіденційність
Філіп Дюфрен акцентував, що випадок із ChatGPT засвідчив нагальність модернізації законодавства. Хоч зараз існуючі правила застосовуються до штучного інтелекту, їх доповнення допомогло б безпечніше впроваджувати нові технології, захищаючи фундаментальне право на приватність канадців.
При цьому лідер Консервативної партії П’єр Пуаельєвр підтримує перегляд законів, аби вони відповідали вимогам сучасності та швидкому технічному розвитку.
Небезпечні прецеденти та суспільні виклики
Розслідування відбувається на тлі трагічних подій, зокрема стрілянини в Та́мблер-Рідж, Британська Колумбія, яка сталася в лютому. Існують позови в Каліфорнії, де OpenAI і її співзасновник Сем Альтман звинувачуються в недбалості.
Відомо, що акаунт стрільця в ChatGPT було заблоковано через “тривожний контент”, що включав плани насильства, але компанія не повідомила канадську поліцію.
Сам Альтман вибачився перед громадою і визнав провал у запобіганні трагедії, не сповістивши правоохоронців.
Чи варто забороняти ChatGPT для дітей?
Уряд Канади вивчає можливість обмеження доступу до чатботів і соцмереж за віком. Для прикладу, Австралія уже заборонила користування кількома популярними соцмережами дітям до 16 років.
При цьому Філіп Дюфрен вважає, що заборона не є панацеєю. Він пропонує зосередитись на усуненні корінних проблем:
- Покращення захисту приватності.
- Баланс між безпекою дітей і їхнім правом на розвиток у цифровому світі.
- Запровадження адекватних запобіжних заходів без тотального обмеження доступу.
Це дозволить безпечно адаптуватися до нових технологій і зберегти відкритість цифрового середовища для майбутніх поколінь.
