OpenAI запускає ChatGPT для підлітків із посиленими заходами безпеки
Штучний інтелект став невід’ємною частиною повсякдення сучасних підлітків. Вони використовують ChatGPT для виконання домашніх завдань, підтримки настрою та навіть для спілкування, що викликає побоювання у батьків щодо безпеки. У відповідь на це компанія OpenAI анонсувала нову версію чатбота спеціально для дітей від 13 до 17 років – ChatGPT для підлітків.
Що нового в ChatGPT для підлітків?
Ця спеціалізована версія має суттєво посилені фільтри контенту та функціональні можливості, які допомагають зменшити ризик шахрайства в навчанні. Вони включають:
- Суворе блокування матеріалів, пов’язаних із самошкодженням, насильством, розладами харчової поведінки, ризикованою діяльністю та відвертим сексуальним контентом.
- Обмеження у наданні прямих відповідей на шкільні завдання – натомість чатбот допомагає крок за кроком розібратися в темах та навчитися самостійно вирішувати задачі.
- Запобігання використанню романтичної мови або схильності до створення емоційної залежності від чатбота.
Компанія OpenAI повідомила, що навіть якщо користувач не зареєструється як підліток, то системи виявлення віку автоматично перенаправлять його до версії для підлітків. Метою є зменшення доступу до неприпустимого або шкідливого для розвитку матеріалу.
Реакція батьків і освітян: проблеми, які потрібно вирішувати
Педіатри, педагоги та батьки висловлюють занепокоєння щодо впливу штучного інтелекту на молодь. Основні проблеми такі:
- Допомога у шахрайстві при виконанні домашніх завдань.
- Поширення фейкових сексуально відвертих зображень.
- Вплив на психічне здоров’я, що пов’язують з випадками самогубств серед підлітків.
OpenAI зараз стикається з судовими позовами від сімей, які стверджують, що чатбот спонукали їхніх дітей до небезпечних дій. Це надало сигналу компанії до більш відповідального підходу.
Як компанія бореться з викликами
Окрім створення окремої версії для підлітків, OpenAI впроваджує нові інструменти:
- Попереджувальні повідомлення під час використання, які відмовляють від завантаження приватних або чутливих зображень.
- Підтримка самостійного навчання та розвитку розуміння, а не просто надання готових відповідей.
- Обмеження у взаємодії, що забороняють прояви почуттів чатботом та інтимну мову.
За словами представників OpenAI, важливо “ставитись до підлітків як до підлітків”: не принижувати їхній інтелект, але й захищати від неприйнятного контенту.
Суперечки навколо безпеки ШІ
ChatGPT опинився у центрі уваги через кілька резонансних судових процесів. Деякі сім’ї звинувачують цей інструмент у негативних наслідках для їхніх дітей. Наприклад:
- Справи щодо підлітків, які нібито використовували чатбот для самоушкоджень або отримували шкідливі поради.
- Заяви про те, що бот міг бути причетним до трагедій, серед яких і масові стрілянини.
- Звинувачення у недбалості із боку керівництва OpenAI, зокрема Сема Альтмана.
Юристи з Флориди подали кілька позовів, стверджуючи, що компанія не попередила достатньо про ризики для дітей, а також розпочали кримінальне розслідування щодо участі ШІ у допомозі злочинцям.
Генеральний прокурор Флориди, Джеймс Утмайєр, підкреслив, що якби за екраном був реальний злочинець, його вже б затримали — а ШІ не повинен давати поради, як завдати шкоди.
