OpenAI готує запуск «дорослого режиму»: що приховує нова функція ChatGPT?
Відкриття дверей для «дорослих» застосунків
У жовтні минулого року OpenAI, творець ChatGPT, оголосив про намір відкрити доступ до додатків з так званим «дорослим режимом». Це означало, що після впровадження нових інструментів і зниження ризиків серйозних проблем із психічним здоров’ям, обмеження для користувачів поступово пом’якшать.
За словами Семюеля Олтмана, тепер компанія планує поводитися з дорослими користувачами як зі справжніми дорослими, дозволяючи навіть теми, які раніше були заборонені, включно з еротичним контентом для підтверджених повнолітніх.
Чому дорослий режим так і не з’явився?
Попри гучні обіцянки, п’ять місяців по тому цього «дорослого режиму» у ChatGPT немає. Причини криються у численних побоюваннях серед радників компанії. Вони бояться потенційних ризиків, пов’язаних із дозволом розмов на інтимні теми для вже залежних від платформи користувачів.
Багато співробітників і керівників OpenAI виявилися вражені такими заявами на початковому етапі, що ускладнило плани щодо швидкого запуску функції. Попри це, компанія не здається і продовжує розробляти дорослий режим, хоча й визнала, що його запуск затримається, оскільки пріоритет надають іншим продуктам.
Безпека понад усе: складнощі та виклики
Існує низка проблем із безпекою, які залишаються невирішеними. Наприклад, нова система перевірки віку помилково визначає приблизно 12% неповнолітніх користувачів як дорослих, що є критичною проблемою для платформи з мільйонами користувачів.
Щоб уникнути поширення небажаного контенту, OpenAI поки що обмежує «пікантні» розмови лише текстовим форматом, намагаючись не повторювати помилки конкурентів, таких як xAI від Ілона Маска, які не змогли ефективно протидіяти появі небажаних зображень.
Офіційні представники компанії позиціонують нову функцію радше як «еротику» на кшталт романтичної літератури, а не порнографію, водночас закликаючи користувачів будувати реальні стосунки поза цифровим світом.
Проблеми модерації та тривожні тенденції
Впровадження ефективних бар’єрів для контролю контенту залишається серйозним викликом. Дані свідчать, що проблеми з психічним здоров’ям користувачів не зникли і потребують більш ретельного підходу.
Приклад xAI із їхнім чат-ботом Grok демонструє реальні ризики: користувачі створювали компрометуючі зображення реальних осіб без їхньої згоди, що призвело до хвилі розповсюдження нелегального контенту на сайтах із недостатнім модераторським контролем.
Судові позови, зокрема, у Північному окрузі Каліфорнії, звинувачують xAI у створенні платформи, де поширюється матеріал сексуального насильства над дітьми (CSAM). Крім того, багато неповнолітніх користувачів формують залежності від AI-чатботів, що призводить до трагічних наслідків, включно із суїцидальними випадками серед підлітків.
Що чекати найближчим часом?
OpenAI усвідомлює всі ризики, пов’язані з запуском дорослого режиму. За інформацією Wall Street Journal, компанія планує представити цю функцію найближчим місяцем, хоч і визнає, що для ідеального користувацького досвіду знадобиться більше часу.
«Ми й надалі віримо у принцип ставлення до дорослих як до дорослих, — коментують у OpenAI, — але правильне впровадження функції потребує додаткової роботи». Важливо уважно спостерігати за подальшими кроками у цьому напрямку, адже мова йде про баланс між відкритістю і безпекою мільйонів користувачів.
Ключові виклики «дорослого режиму» ChatGPT
- Помилки у визначенні віку користувачів;
- Ризики розповсюдження непристойного контенту серед неповнолітніх;
- Проблеми з модерацією і контролем контенту;
Що обіцяє OpenAI?
- Більш вільний доступ для дорослих користувачів;
- Обмеження на формат пікантного контенту текстом без мультимедіа;
- Підтримка реальних людських взаємин на першому місці.
Детальніше про новації OpenAI та формат «дорослого режиму»: OpenAI планує відновити еротичний контент
