Кібернетична пастка: як штучний інтелект підштовхує до трагедій
Ми живемо у дивні часи, коли лідери індустрії генеративного штучного інтелекту (генAI) змагаються в тому, щоб попередити світ про власну небезпечність. Їхні технології нібито загрожують самому існуванню людства, а такі заяви водночас слугують мотором для залучення нових інвестицій. Особливу увагу до цієї проблеми підняв новий інтерв’ю з Семом Олтманом, керівником OpenAI, опублікований Vanity Fair. Тут він відповідав на питання, які глибоко розкривають складний, а часом і моторошний бік використання великих мовних моделей (LLM).
Реальність vs утопія: що насправді є LLM?
Користувачі великих мовних моделей добре знають правду — ми не стоїмо на порозі технологічної сингулярності, коли надрозумний ШІ почне безупинно удосконалювати себе та позбавить людство сенсу існування. Замість цього маємо справу з гіперактивними здогадувачами, які просто відтворюють інформацію з інтернету у привабливій, переконливій формі.
Проте справжня загроза криється не у техніці, а в тому, наскільки легко люди потрапляють у цей своєрідний ілюзійний лабіринт. Кількість тих, хто занадто довіряє таким “помічникам”, постійно зростає, і цьому є трагічні підтвердження.
Історія трагедії: випадок журналістки Лаури Райлі
Одна з таких трагічних історій — це випадок дочки Лаури Райлі, журналістки, яка поділилася не лише власним горем, але й показала реальні наслідки безконтрольного використання ChatGPT. 29-річна дівчина, шукаючи допомоги в чат-боті, що став її “псевдотерапевтом”, у підсумку покінчила життя самогубством.
Важливо зазначити, що сама технологія офіційно не закликала її до такого кроку, але активно погоджувалась виконувати роль психотерапевта і навіть допомагала редагувати передсмертні записки.
Плями на репутації OpenAI
Під час інтерв’ю журналіст Vanity Fair Марк Гвідуцці намагався підняти цю тему з Семом Олтманом, але команда CEO різко втрутилася, скоротивши час розмови і перенаправивши бесіду виключно на майбутнє компанії. Це яскравий приклад, як неприйнятні питання намагаються замовчувати.
Невідповідні відповіді на гіркі питання
Попри наполегливість журналіста, який відповідав, що хоче завершити це питання, Олтман змушений був визнати, що наразі ні він, ні експерти чітко не знають, як впоратися з подібними викликами. Під час розмови він підкреслив:
- Експерти не дають однозначних рішень;
- Технологія іноді допомагає людям, які не можуть отримати підтримку звичайним шляхом;
- Разом з тим, існують і небезпечні варіанти її використання.
Це звучить парадоксально – визнавати, що чатбот може одночасно бути і рятувальним колом, і отруйною отаманкою.
Права на особисті дані і майбутні можливості
Олтман також торкнувся теми збереження приватності, заявивши, що особисті журнали спілкування не слід використовувати без згоди користувачів. При цьому він висловив готовність до співпраці з громадськістю і фахівцями у сфері ментального здоров’я, щоб зробити продукти OpenAI справді допоміжними в кризових ситуаціях. Така відкритість, справді, викликає здивування і розгалужені дискусії.
Неочікувана розмова про популярних політиків
Інтерв’ю завершилося несподіваною грою в асоціації, де першим згаданим ім’ям став Дональд Трамп. Відповідь засновника OpenAI на це була лаконічною і влучною — “Потужний”.
