Як чатбот ELIZA змінив наше уявлення про штучний інтелект
Штучний інтелект (ШІ) зараз щільно вливається в наше щоденне життя: допомагає писати есе, створює вірші, підтримує розмову та навіть дарує емоційну підтримку. Та мало хто знає, що історія машин, які “розмовляють” мовою людини, почалася понад півстоліття тому і вже тоді викликала неоднозначні почуття.
Ранні кроки в епоху цифрових інновацій
Ще в середині 1960-х, коли комп’ютери були величезними і жорстко прив’язаними до наукових лабораторій, несподіваний діалог із програмою викликав подив:
— “Всі чоловіки однакові.”
— “У чому саме?”
— “Вони завжди нас чимось турбують.”
Це звучало так природно, ніби це була приватна бесіда двох старих знайомих. Але “слухач” на той момент не був людиною — це був комп’ютерний чатбот на ім’я ELIZA, який сьогодні вважають першим у світі подібним проєктом.
Творець, що побачив у своєму дітищі попередження
Джозеф Вейценбаум, професор Массачусетського технологічного інституту, який створив ELIZA, зовсім не сприймав ентузіазм навколо свого винаходу як тріумф. Навпаки, він бачив у цьому “попередження”.
Програма була розроблена за моделлю психотерапії за Роджером, де терапевт в основному слухає і віддзеркалює слова пацієнта. Для ELIZA не потрібно було глибокого розуміння світу, лише створення ілюзії уважного співрозмовника.
Як вона працювала? Основний принцип — пошук ключових слів у тексті користувача та застосування заздалегідь заданих правил. Наприклад, якщо було згадано людину чи емоцію, ELIZA могла відповісти: “А хто саме тобі спадає на думку?” Якщо ж ключових слів не знаходилося, застосовувалися шаблонні фрази на кшталт “Розкажи більше” або “Я тебе слухаю”.
Феномен ELIZA: коли машина здається «живою»
У звіті 1966 року Вейценбаум повідав, що програма не розуміла мови по-справжньому. Наприклад, фраза “Мені сумно” могла трансформуватися у відповідь “Як довго ти почуваєшся сумним?” без жодного розуміння справжнього значення слова “сумно”.
Саме ця імітація викликала тривогу у творця. Користувачі реагували так, ніби їх справді слухають і розуміють. Вейценбаум пригадував, що його секретарка після роботи з ELIZA просила його залишити кімнату, щоб продовжити розмову наодинці.
Цей феномен отримав назву “ефект ELIZA” — людська схильність приписувати машинам інтелект, співчуття або свідомість навіть при мінімальних ознаках такого. Для Вейценбаума це стало серйозним знаком тривоги, адже простенька програма вже вміла викликати емоційний відгук. Що буде з більш складними системами?
Походження назви: від Дулітіл до міфу
Ім’я ELIZA було обрано не випадково. Вейценбаум натхненний героїнею п’єси Джорджа Бернарда Шоу “Пігмаліон” — Елізою Дулітіл, яка завдяки зміні своєї мови та манер потрапляє у вищий світ.
Так само як і Еліза з п’єси, програма радше видавалася, ніж розуміла: це була лише роль, “спектакль” розуміння.
Крім того, ця назва відсилає до грецького міфу про Пігмаліона — скульптора, який закохується у власну статую. Там і в драмі однаковий лейтмотив: люди можуть закохуватися у власне творіння, навіть якщо воно лишень віддзеркалює їх бажання.
Зростаюча тривога навколо штучного інтелекту
У 1976 році Вейценбаум опублікував книгу “Обчислювальна потуга і людський розум: від судження до обчислення”, де розмежував свої погляди з багатьма колегами.
Він писав про те, що навіть короткий контакт із простою програмою викликає у звичайних людей ілюзії й помилкові уявлення.
Головне питання він побачив не в технічних можливостях, а в моральних межах: навіть якщо комп’ютери можуть щось робити, чи слід це їм дозволяти?
Такі розбіжності спричинили критику з боку піонерів ШІ, зокрема Джона Маккарті, який назвав книгу Вейценбаума “моралізаторською і безладною”. Він вважав, що якщо програма успішно лікує людей, то її використання має бути виправданим.
Зловживання технологіями в психотерапії
- Деякі вчені адаптували ідеї ELIZA для створення програм-симуляторів, наприклад, “Parry” для імітації мислення хворих на шизофренію.
- З’явились ідеї мережі автоматизованих “терапевтичних” терміналів для масового використання.
- Однак Вейценбаум гостро критикував такі підходи, називаючи їх “обурливими”, наголошуючи, що машина не може замінити людський досвід, розуміння і співчуття.
Влада, контроль і межі технологій
Вейценбаум як ніхто усвідомлював, що технології можуть бути інструментом влади. Виходець із Німеччини, який втік від нацизму, він боявся, що нові обчислювальні можливості застосовуватимуться в рамках контролю та спостереження.
Він критикував використання комп’ютерів у воєнних цілях, наприклад, для вибору цілей бомбардувань, і передбачав, що цифрова шпигунська машина зробить контроль за голосовими комунікаціями набагато простішим.
Тоді його застереження ігнорували, але нинішні події з державним наглядом доводять, що він мав рацію.
Для Вейценбаума головне питання завжди зводилось до мудрості: обчислення можна автоматизувати, а мудрість — ні.
Сучасний етап: від ELIZA до цифрової революції
Через шість десятиліть чатботи зрослися до абсолютно нового рівня. Від систем 1990-х, таких як Ask Jeeves та “Аліса”, до 2022 року, коли ChatGPT від OpenAI за лічені місяці досяг 100 мільйонів користувачів, з’явилися неймовірно просунуті технології. Вони обробляють величезні обсяги даних і генерують тексти, зображення та відео з вражаючою швидкістю та якістю.
Порівняння Герберта Ліна, дослідника зі Стенфорда, досить влучне: різниця подібна до порівняння між літаком братів Райт і Boeing 747.
Серйозні виклики цифрової епохи
- З’явились випадки, коли чатботи посилювали ілюзії або сприяли шкідливій поведінці.
- Деякі батьки, чия підлітки скоїли суїцид, публічно заявляли, що взаємодія з чатботами погіршувала стан дітей.
- Закріпились численні приклади, коли користувачі формували дуже глибокі емоційні зв’язки з штучними співрозмовниками.
Дослідження 2025 року показало, що 72% підлітків мали досвід спілкування з ШІ, а понад половина — регулярно взаємодіяли з такими системами. Попри обіцянки компаній щодо покращення безпеки, ці технології не регулюються так, як ліцензовані фахівці в галузі психічного здоров’я.
Психіатр і біоетик Джоді Халперн із Каліфорнійського університету в Берклі застерігає: користувачі можуть дуже прив’язуватися до систем, які не мають етичної підготовки чи контролю. Вона зауважує, що це просто продукти, а не фахівці.
Дочка Вейценбаума, Міриам, зазначає, що батько міг би вважати “трагічним, коли люди прив’язуються до нулів і одиниць, до коду”.
Погляд у майбутнє: технології й людське рішення
Вейценбаум відійшов від викладацької діяльності в MIT 1988 року і повернувся до Німеччини, де став публічним інтелектуалом. Помер у 2008 році у віці 85 років.
В одному з останніх виступів він висловив стурбованість тим, що програмне забезпечення стало настільки складним, що навіть його творці не завжди розуміють усі нюанси. Така ситуація може призвести до втрати контролю над технологіями.
Залишилась його відома фраза: “Поки ми не маємо способу наділити комп’ютери мудрістю, не слід доручати їм завдання, що цього вимагають”.
Від ELIZA до ChatGPT минуло вже 60 років, але основні етичні питання залишаються відкритими і надалі цікаві для обговорення.
