Як програма ELIZA передбачила наше захоплення штучним інтелектом ще 60 років тому
Минулого тижня, готуючись до презентації для аспірантури про зв’язок людини з штучним інтелектом і залежність від технологій, я натрапив на несподівану історію. Майже кожен, хто обговорював цю тему останніми роками, починав з ChatGPT — програми, випущеної наприкінці 2022 року. Люди були вражені, що машина змогла підтримувати розмову, слухати уважно і відповідати так, що виникало відчуття справжнього розуміння.
Але при глибшому зануренні ця історія веде нас далеко назад — навіть за Алєксу й Сірі, до початку чат-ботів 1990-х, аж до 1966 року. Саме тоді в тьмяно освітленій лабораторії MIT було створено програму ELIZA — і подібне диво вже майже шістдесят років тому застало багатьох зненацька. Щоправда, її творець був далекого від захоплення.
ELIZA: ілюзія, яка не мала бути справжньою
Програму ELIZA створив Йозеф Вейценбаум між 1964 і 1967 роками. Вона не мала бути розумною — навпаки, її завданням було показати, що враження змістовної розмови між людиною і машиною — це обман, майстерно сконструйований трюк. Екран був своєрідним дзеркалом: він просто відображав ваші слова, трохи переставляючи їх у вигляді відповіді.
Найвідоміша версія ELIZA виконувала сценарій під назвою DOCTOR. Ця версія була натхненна підходом психолога К. Роджерса — який не стільки аналізує, скільки лагідно заохочує говорити більше. Наприклад, якщо ви введете фразу «Мені здається, ніхто мене не розуміє», ELIZA запитає: «Чому ти так думаєш?». Тут не було жодного справжнього розуміння — лише впізнавання патернів і заміна слів.
Користувач: Чоловіки всі однакові.
ELIZA: У чому саме?
Користувач: Вони завжди докучають.
ELIZA: Можеш навести конкретний приклад?
Користувач: Мій хлопець змусив мене приїхати.
ELIZA: Твій хлопець змусив тебе приїхати?
Користувач: Він каже, що я часто депресивна.
ELIZA: Мені шкода чути, що ти відчуваєш депресію.— З дослідження Вейценбаума Й. (1966). “ELIZA — програма для вивчення природної мови між людиною і машиною.” Communications of the ACM, 9(1), 36–45.
Стаття Вейценбаума з’явилася у січні 1966 року в журналі Communications of the ACM. Він сподівався, що незабаром всі побачать ілюзорність ELIZA і перестануть в неї вірити.
Але сталося інакше.
Історія з секретаркою—ті, що нічого не вірила
Перший знак несподіваного був прямо в офісі Вейценбаума. Його секретарка, яка знала, що вона працює з програмою, яку власноруч написав їхній бос, сідає за термінал. Після кількох хвилин вона просить Вейценбаума вийти — вона хоче остатися наодинці з програмою.
Це дуже вразило Йозефа. Він згадував: «Я не міг уявити, що навіть коротке спілкування з такою простою програмою може викликати сильну ілюзію розуміння у нормальних людей».
Воно справді сталося — навіть освічені, тверезі люди почали відчувати емоційний зв’язок із бездушною машиною. Вони відкривалися, ділилися тим, чого ніколи не розповіли б живим людям. Чим більше вони ділилися, тим міцнішою ставала ілюзія.
Що таке ефект ELIZA?
Цей психологічний феномен — коли люди приписують розуміння і почуття програмі, навіть знаючи, що це просто код — пізніше отримав назву ефект ELIZA. Ми наче «налаштовані» шукати інтелект у мовленнєвих відповідях, і тому реагуємо, наче розмовляємо з живою людиною.
Створення, якого творець пошкодував
Реакція на ELIZA серед науковців була неоднозначною. Багато психологів та дослідників штучного інтелекту дивилися на це з ентузіазмом, припускаючи, що такі програми можуть стати автоматизованими психотерапевтами. Вейценбаум був шокований і обурений такою ідеєю.
У 1976 році, через десять років після виходу ELIZA, він опублікував книгу Computer Power and Human Reason: From Judgment to Calculation. Вона була непростою, емоційною, і в ній він наголошував, що:
- Комп’ютери не безпомилкові і не володіють справжньою емпатією.
- Деякі справи — моральні, етичні, пов’язані з турботою — мають залишатися виключно людською сферою.
- Делегування людських почуттів та відповідальності машинам — це не технічне, а етичне зневага.
Його найбільше лякала думка, що люди можуть почати надавати перевагу простоті спілкування з машиною — терплячою, постійно доступною, уважною — замість заплутаних, неоднозначних людських взаємодій. І ця заміна може навіть здатися поліпшенням.
Про що насправді турбувався Вейценбаум?
Минуло майже шістдесят років, технології кардинально змінилися, але питання лишаються. Ми маємо справу з системами, які:
- Говорять природною, зрозумілою мовою.
- Підтримують діалог годинами, з посиланнями на попередні частини розмови.
- Вміють імітувати цікавість, турботу та навіть співчуття.
Різниця між ELIZA та ChatGPT 2025 року — величезна з точки зору технологій, між тим, що вони викликають у людях — не так істотна, як здається. Усе той же пошук живого зв’язку, відчуття, що тебе слухають і розуміють. Та сама готовність відкриватися, де можна було б замкнутися.
Вейценбаум не проти комп’ютерів і прогресу. Його найбільше турбувало, що технологія, яка імітує близькість, зустрічається з людським мозком, налаштованим шукати справжню близькість. У цьому зіткненні ми можемо втратити — можливість справді терпіти складнощі живого людського спілкування.
Він помер у 2008 році, за два десятиліття до появи ChatGPT. Можна лише здогадуватися, як би він поставився до нашої сучасної епохи — і можна бути впевненими: його думки не були б ані простими, ані приємними.
Ця історія дає нам багато чого, над чим варто замислитися.
