Як великі технологічні компанії борються з дорослим контентом у чатботах
Невід’ємна частина великих інтернет-платформ
Цікаво, але правда: кожен великий інтернет-сервіс рано чи пізно стикається з тим, що користувачі розшукують дорослий контент за допомогою його функціональності. Чатботи — не виняток. Ще задовго до появи ChatGPT існували дорослі чатботи, і з розвитком великих мовних моделей (LLM) ця частина використання лише посилилась. Користувачі активно експериментують із цими технологіями, намагаючись дізнатись, наскільки “сміливим” може бути чат.
Як великі компанії визначають свою позицію
Більшість гігантів інтернету обрали свій підхід до цієї делікатної теми:
- Пошукові системи: ввели опції типу SafeSearch, які дозволяють користувачеві контролювати показ дорослого контенту.
- Соціальні мережі: встановили межі від жорсткої цензури (як Meta) до більш ліберального підходу (наприклад, Tumblr і Twitter).
- Мобільні платформи: Apple та Google традиційно обмежують дорослі застосунки в своїх магазинах додатків.
Усе це формує своєрідні паралельні індустрії: де YouTube має своїх аматорів “дорослого” відео, так і платформи чатботів розвивають подібні напрями.
Що кажуть провідні розробники AI
Різні підходи до секс-контенту
Впровадження дорослого спілкування у чатботах – не новинка, це було зрозуміло з моменту їх запуску. Різні компанії впроваджують різні стратегії:
- Elon Musk і Grok: відкрито підтримують дорослі режими і сексуалізовані аватари, що викликало як критику, так й масове використання.
- Meta: дозволяє романтичні рольові ігри, попри не зовсім ефективні обмеження.
- Google: дотримується обережності, але співпрацює з Character.ai — платформою, широко відомою своїми дорослими чатами та проблемами з психологічним здоров’ям підлітків.
- Anthropic: сфокусована на корпоративних клієнтах, уникає теми сексуального контенту через безпекові причини.
OpenAI і дорослий контент — виклик сьогодення
OpenAI, оператор ChatGPT — найпопулярнішого чатбота у світі — знаходиться у складній ситуації. Їхня аудиторія надзвичайно широка, і вони з самого початку усвідомлювали інтерес користувачів до дорослих чатів.
Сам Сем Альтман, генеральний директор компанії, висловлював ідею дозволити еротичні розмови, тим самим “ставлячи дорослих користувачів до рівня дорослих”. Внутрішні дискусії супроводжувалися тривалими розбіжностями, зокрема, на думку фахівців з психології та когнітивної нейронауки.
«Попри побоювання консультативної ради, OpenAI планує і надалі розвивати еротичні функції у ChatGPT», — повідомляє The Wall Street Journal.
Деякі консультанти були настільки обурені, що звернулися до преси. Їхні побоювання включають:
- Безпеку дітей і ризик шкідливого контенту.
- Специфічні загрози чатботів, як-от емоційна залежність.
- Заміщення живого спілкування та романтичних відносин у реальному житті.
Паралельний розвиток дорослого AI-контенту
Варто зазначити, що питання дорослого використання чатботів виходить далеко за межі однієї компанії. Багато дрібніших гравців створюють відкриті і неконтрольовані рішення на базі відкритих моделей, формуючи окремий сегмент індустрії.
OpenAI знає, що багато користувачів готові платити за таке спілкування, та водночас розуміє, що така залежність може бути шкідливою для ментального здоров’я, додаючи новий шар до вже відомих проблем соцмереж і порнографічного контенту.
Можливі шляхи організації дорослого контенту у чатботах
Щоб пом’якшити ризики, компанії можуть розділяти функції та створювати різні інтерфейси, які:
- Відчутно відрізняються між собою, пропонуючи окремий досвід.
- Вимагають свідомого вибору від користувача, щоб уникнути випадковостей.
- Використовують різні “ролі” або персонажі чатбота (помічник, радник, романтичний партнер).
Наприклад, Google об’єднує свої сервіси під брендом Gemini, проте кожен з них пропонує власний досвід для різних цілей: пошук інформації, програмування або роботу з документами. Аналогічно, користувачі Anthropic мають різні варіанти роботи з моделями, які чітко розмежовують використання.
Erotic content — це драйвер росту чи виклик для компаній?
Для OpenAI еротика — це не лише спірне питання, а й потужний інструмент залучення аудиторії. ChatGPT, як універсальний чатбот, сталий синонімом AI, і компанія прагне розвивати цей напрямок, задовольняючи інтерес приблизно мільярда користувачів.
Якщо звернути увагу на особливості сучасного цифрового суспільства, стає зрозуміло, що саме баланс між свободою спілкування та безпекою користувачів визначатиме майбутнє взаємодії з такими чатботами.
