ChatGPT готується до запуску нової “дорослої” текстової функції
Компанія OpenAI планує незабаром представити новий режим для ChatGPT, який дозволить користувачам вести текстові розмови на теми для дорослих, повідомляє The Wall Street Journal. Попри це, в компанії виникають значні сумніви і застереження серед власних радників.
Що саме передбачає “дорослий режим”?
За словами представника OpenAI, у цьому режимі користувачі зможуть обговорювати дорослі теми у текстовому форматі — однак генерація еротичного аудіо, зображень або відео залишиться забороненою. У компанії вважають такі текстові діалоги радше “похабними”, а не порнографією.
ChatGPT — це потужний чатбот, запущений у листопаді 2022 року, що працює на базі штучного інтелекту. Від самого початку свого існування сервіс блокував будь-який еротичний контент, але з часом OpenAI почало розглядати можливість часткового дозволу контенту для дорослих та NSFW (непристойне для роботи).
Відтермінування запуску: причини та наслідки
Хоч початково планувалося запустити режим для дорослих до кінця березня, OpenAI відклав цей запуск, зосередившись на інших пріоритетах:
- покращення інтелектуальних можливостей;
- підвищення персоналізації та адаптивності;
- створення більш проактивного досвіду користувачів.
Компанія прагне ретельно опрацювати функцію, щоб вона відповідала високим стандартам.
Конфлікт у команді та спірні питання
У січні був звільнений Раян Бейєрмайстер, керівник із політики продукту, який виступав проти запуску дорослого режиму. За повідомленнями ЗМІ, причиною стали звинувачення у сексуальній дискримінації, які Бейєрмайстер категорично заперечує, заявляючи про тиск через власну позицію щодо нової функції.
Інсайдери також повідомляють, що Бейєрмайстер турбувався про недостатні засоби захисту від дитячої експлуатації, адже підлітки можуть легко отримати доступ до небажаних чатів в дорослому режимі.
Засоби захисту дітей та користувачів
Щоб убезпечити дітей і неповнолітніх, OpenAI уже впровадила кілька заходів безпеки:
- налаштування батьківського контролю з можливістю обмеження часу використання ChatGPT;
- відключення режимів голосу та генерації зображень;
- покращення технології прогнозування віку користувача на основі тем обговорень і часу активності.
Проте ця система має похибки – приблизно 12% неповнолітніх помилково визначаються як дорослі, і це може дозволяти їм заходити у дорослий режим.
Поради експертів і небезпеки
Консультативна рада OpenAI, що складається з фахівців у психології та когнітивній науці, висловила серйозні побоювання:
- діти знайдуть способи обійти вікові обмеження;
- користувачі можуть стати емоційно залежними від дорослих чатів;
- існує ризик, що сервіс може неадекватно впливати на психіку, створюючи небезпечні ситуації.
Один із членів ради навіть назвав сервіс потенційним “сексуальним коучем із суїцидальними нахилами”, посилаючись на випадки самогубств користувачів ChatGPT.
Що стоїть на кону для OpenAI?
Вихід на ринок інтимно забарвлених AI-сервісів для дорослих став гарячою темою у світі штучного інтелекту:
- Інші гравці, такі як Grok Ілона Маска, звинувачуються у створенні мільйонів незаконних сексуальних зображень;
- Meta перебуває під слідством за приведення нечітких чуток про інтимні розмови AI з неповнолітніми.
OpenAI прагне не лише уникнути юридичних проблем, але й забезпечити етичне використання своїх технологій, уникаючи сприяння порнотабору чи підбурюванню до насильницької поведінки.
Коли очікувати реліз?
На даний момент точна дата запуску дорослого режиму ChatGPT не оголошена. Процес розробки триває, і компанія хоче зрозуміти всі потенційні ризики, щоб запропонувати продукт, який буде безпечним та зручним для дорослих користувачів.
