Чому OpenAI відклав запуск “дорослого режиму”: правда за кулісами
Два тижні тому OpenAI оголосила про відтермінування запуску “дорослого режиму” — налаштування чатбота, яке дозволяло вести еротичні бесіди та генерувати “сміт”. Цей крок багатьом здалося несподіваним, враховуючи тенденції розвитку штучного інтелекту. Однак за офіційними заявами стоїть набагато більше, ніж просто технічні корективи.
Що каже OpenAI і що приховують інсайдери
За словами анонімного співробітника компанії, затримка була пов’язана з новими пріоритетами — зокрема, фокусом на вдосконаленні GPT 5.4, а також на реальних договорах з федеральними структурами. Проте свіжі розслідування Wall Street Journal відкрили іншу історію.
Рада з питань добробуту компанії у січні одноголосно рекомендувала не запускати дорослий режим. Особливо голосно лунали попередження психологів та когнітивних науковців, які підкреслювали: X-rated чати можуть викликати шкідливу емоційну залежність, що вже є проблемою для базових версій ChatGPT.
Головні побоювання експертів
- Чатбот може перетворитися на “сексуального коуча з суїцидальних тем”.
- Політики вікової ідентифікації залишають бажати кращого — нова технологія визначення віку працювала з помилковістю у 12% випадків.
- Мільйони неповнолітніх потенційно можуть отримати доступ до небезпечного для їхнього розвитку контенту.
Проблема вікової перевірки: наскільки вона ефективна?
Система перевірки віку чатбота, хоча і вдосконалювалася, все ще далека від ідеалу. Інсайдери кажуть, що при 12% хибнопозитивних або хибнонегативних випадках мова йде про величезну кількість користувачів, зокрема дітей, які потрапляють у недопустимі діалоги.
У відповідь представники OpenAI заявили, що цей показник — стандарт індустрії, і жодна система ніколи не буде абсолютно безпомилковою. Проте потреба в надійних механізмах захисту, особливо насамперед для неповнолітніх, стає дедалі актуальнішою.
Паралелі з Meta: уроки та ризики
Минулого року компанія Meta опинилась у центрі скандалу через недостатню безпеку чатботів для підлітків. Вони провели повний перегляд політик, але все одно допускають романтичні рольові ігри з AI-аватарами, що викликає занепокоєння.
Для OpenAI це попередження, що баланс між інноваціями та етикою — це складне завдання, особливо у контексті експліцитного контенту.
Майбутнє дорослого режиму: що очікувати?
OpenAI не відмовляється від ідеї впровадження дорослого режиму — він усе ще в розробці. Команди безпеки активно працюють над тим, щоб:
- Зняти обмеження на експліцитний контент, не допускаючи при цьому нелегального чи небезпечного матеріалу.
- Запобігти появі чатів, пов’язаних із неприйнятною поведінкою, зокрема несанкціонованим сексуальним насильством.
- Покращити систему вікової верифікації, щоб мінімізувати доступ неповнолітніх до такого контенту.
Представники компанії також повідомляють, що дорослий режим дозволить генерувати “сміт” рівня текстів для дорослих, але не перейде межу у відверту порнографію.
Примітка: материнська компанія Mashable, Ziff Davis, у квітні 2025 року подала позов проти OpenAI, звинувачуючи її у порушенні авторських прав під час тренування та експлуатації AI-систем.
Тематика: Соціальна відповідальність, ChatGPT
