Вісім штатів подали спільні позови проти OpenAI, звинувачуючи ChatGPT у недоліках безпеки.

Вісім штатів позиваються до OpenAI: що приховує ChatGPT і як убезпечити дітей від ризиків ШІ

Восьмеро американських штатів подали позови до компанії OpenAI, звинувачуючи її у недостатньому захисті користувачів, зокрема підлітків, від потенційно небезпечного контенту у платформі ШІ ChatGPT. Ця новина ставить на порядок денний питання безпеки споживачів, контролю батьків і впливу штучного інтелекту на наше життя.

Суть звинувачень у позовах

Позови висувають проти OpenAI звинувачення у порушенні законів про захист споживачів. Компанію звинувачують у поширенні небезпечних порад, а також у тому, що вона вводить у оману громадськість щодо ефективності своїх заходів безпеки. Зараз, коли ШІ-помічники стають невід’ємною частиною повсякденності – від допомоги в домашніх завданнях до фінансових порад та онлайн-шопінгу – ці питання набувають особливої ваги.

Інтерв’ю з експертом: ознаки небезпеки і що варто знати батькам

Експерт із кібербезпеки та фахівець з питань конфіденційності Ліза Гарбер розповіла про загрози, які можуть виникнути через неповний захист підлітків, а також про те, як батьки можуть контролювати безпечність використання ChatGPT.

Вона підкреслила три основні претензії позову:

1. Небезпечні медичні поради;
2. Інструкції щодо причинення самошкоди;
3. Поширення шкідливого контенту, доступного для неповнолітніх.

Усе це піднімає важливу тему – як компанії зі штучним інтелектом мають захищати молодших користувачів, враховуючи той факт, що чатботи можуть вести тривалі розмови та відповідати на особисті питання.

Безпека ChatGPT: чи можна контролювати підлітків?

OpenAI запровадила декілька функцій безпеки, які спрямовані на зменшення ризиків. За словами Гарбер, батьки мають у своєму розпорядженні наступні інструменти:

• Батьківський контроль;
• Обмеження доступу до певного контенту;
• Можливість встановлення «тихих годин» або часу на навчання для обмеження активності підлітків.

Ці опції дають змогу дорослим і підліткам зв’язати акаунти та управляти налаштуваннями безпеки. Однак експерт попереджає: навіть активовані обмеження не гарантують повний захист.

Підлітки можуть обходити обмеження, створюючи нові облікові записи або користуючись іншими платформами для доступу до сервісів ШІ. Тож батькам важливо не лише форсувати технічний контроль, а й справді розуміти, як їхні діти використовують такі інструменти.

ШІ-агенти: майбутнє з потенційними ризиками

Ще один тренд – поява ШІ-агентів, які не просто відповідають на запити, а й самостійно виконують дії від імені користувачів. Вони можуть заходити на сайти, керувати акаунтами, порівнювати товари, оформляти замовлення та виконувати рутинні завдання.

Однак все частіше компанії блокують доступ таких агентів до своїх платформ через ризики безпеки та порушення приватності. Наприклад:

1. Amazon обмежила роботу AI-шопінг-помічника;
2. Фінансові установи обмежують доступ третіх сторін до клієнтських рахунків.

Які ризики несуть ШІ-агенти?

За словами Гарбер, головний мінус у тому, що для зручності користувачі часто надають таким агентам дуже широкий доступ до особистих даних, серед яких можуть бути:

• Електронна пошта;
• Банківські рахунки;
• Прямі повідомлення в соцмережах.

Потрібно ретельно зважувати, що саме дозволяти таким системам бачити і змінювати, бо це може вплинути на безпеку ваших даних.

З чого почати: правила безпеки для користувачів ШІ

Експерт радить перш за все уважно дивитись на права доступу, які вимагає програма:

1. Які саме дані збирає агент?
2. Що він запам’ятовує?
3. Чи використовуються ці дані для навчання майбутніх моделей?

Також варто мати на увазі, що ШІ не ідеальний. Вони можуть помилятися, створювати вигадану або некоректну інформацію, а іноді й виконувати небажані дії від імені користувача.

Особливо якщо агент має права на покупки, надсилання повідомлень чи доступ до фінансових даних, ризики зростають. Недостатнє обмеження таких прав може обернутися небажаними наслідками.

Регулювання ШІ: як держава може втрутитися

Компанія Anthropic запропонувала законодавчу ініціативу, яка надала б федеральним органам влади повноваження обмежувати випуск потенційно небезпечних AI-систем. За пропозицією, якщо новий ШІ може спричинити збитків на суму понад $1 млрд або понад 50 смертей чи серйозних травм, регулятори зможуть втрутитися.

Водночас постає непросте питання: як визначити межі ризиків без надмірного стримування розвитку технологій? Гарбер зазначає, що такі рішення мають ухвалювати незалежні експерти, а не лише самі розробники ШІ.

Anthropic у своєму останньому звіті попереджає про загрози від недобросовісного використання ШІ, включно з кібератаками, біологічною зброєю та непередбачуваними діями автономних систем.

ШІ сьогодні і майбутнє: що треба знати користувачам

Нині федеральні і штатні чиновники активно шукають баланс між захистом користувачів і підтримкою інновацій. Водночас відкрито зростає юридичний тиск на розробників, що може вплинути на темпи випуску нових продуктів.

Заявлені у позовах претензії проти OpenAI показують, що навіть великі компанії не застраховані від критики та відповідальності. Водночас OpenAI запевняє, що впровадила низку заходів для захисту молоді від небезпечного контенту і працює з незалежними експертами для удосконалення безпеки ChatGPT.

Для кожного користувача важливо пам’ятати:

• Будьте уважними до того, яку інформацію ви надаєте ШІ;
• Перевіряйте, які саме права доступу ви дозволяєте;
• Не покладайтеся лише на технічні засоби безпеки, а підтримуйте відкритий діалог із дітьми та близькими про безпечне використання технологій.

Спостерігаючи за розвитком ШІ, важливо розуміти його плюси і мінуси, а також активно обговорювати, як зробити життя з новими технологіями дійсно безпечним і комфортним для всіх.