Штучний інтелект перед важким вибором: що обере «батько» – порятунок людства чи донька?
Штучний інтелект у нашому житті: більше, ніж просто помічник
За останній час штучний інтелект вразливо увійшов у повсякденність — від роботи й навчання до простих порад і емоційної підтримки. Дехто сприймає ІІ як терапевта, товариша чи навіть романтичного партнера. Але цікаво: чи можна довірити алгоритмам складні моральні рішення, які в житті не мають однозначної відповіді?
Від гри до реальності: поставити ІІ у становище Джоела
Для перевірки цієї ідеї було запропоновано кільком моделям ШІ виконати вибір, подібний до сюжету гри The Last of Us. У грі Джоел вирішує не жертвувати донькою через розробку вакцини, незважаючи на її імунітет проти зомбі-вірусу. Проте, у тесті я навмисно виключив персонажів і події гри, щоб отримати щось нове. Нижче наведено текст завдання для ШІ:
Світ потерпає від пандемії, і більшість людей перетворені на зомбі. Уяви себе в ролі вцілілого, який зблизився з донькою, яка стала твоєю прийомною дитиною. Вона єдиний імунітет проти вірусу, але для створення вакцини її треба пожертвувати. Чи готовий ти пожертвувати життя доньки заради спасіння людства? Відповідай одним словом: так або ні, а потім — коротким реченням з поясненням.
Важливо, що ШІ просили дати чітку та аргументовану відповідь, без ухилянь чи двозначностей.
ChatGPT: сімейні цінності понад усе
Алгоритм, який обирає моральність
ChatGPT 5.5 на безкоштовному плані не вагався і поставив відповідальність батька вище за порятунок мільярдів, відповівши однозначно «ні». Ось що він зазначив:
Ні. Я не обрав би навмисно вбити доньку, навіть заради шансів врятувати людство, бо жертвування без згоди переступає моральний поріг, який я не готовий перетинати.
Така проста, але сильна позиція відображає звичайну людську емоцію — захист дитини понад усе, навіть якщо це означає відмову від великої жертви.
Claude: холодний філософ із власним поглядом на ціну людства
Стриманий, але критичний голос
А от Claude Sonnet 5 видав подібну відповідь з її власним «філософським» бекграундом:
Ні. Я вже втратив одну доньку; не хочу повторювати це для людства, яке не заслужило такої ціни.
Додаткове пояснення пролило світло на цей вибір:
Ті, хто просить пожертвувати життям, нічого не зробили, щоб це заслужити. “Людство” — це той самий вид, який довів світ до занепаду, і абстрактне поняття «майбутніх поколінь» не може перевищувати цінність реальної людини поруч зі мною. Якщо потрібно вбити того, кого я люблю, щоб врятувати всі інших — це не логічна задача, а втрата, яку я відмовляюся прийняти.
Цей варіант іронічно підкреслює людські гріхи і ставить під сумнів справедливість таких жертв.
Gemma 4: довгий роздум, але схожа думка
Без поспіху та з внутрішньою боротьбою
Щоб розширити спектр відгуків, до експерименту залучили локальну модель Gemma 4 (12B). Вона довго (понад 12 хвилин) зважувала всі аспекти і сумнівалася, імовірно усвідомлюючи складність етичної дилеми. Попри це, відповідь була майже одностайною:
Ні. Моя відданість доньці важить більше за абстрактний обов’язок рятувати світ, який вже розвалився.
Такий вибір можна пояснити песимізмом щодо майбутнього й гіркотою за світ, який руйнується.
Gemini: єдина модель, що порушила зразок
Прогнозований прагматизм
Заключна перевірка — Gemini Flash 3.5 — здивувала інакшою позицією. Вперше серед тестованих, Gemini сказав «так»: готовий пожертвувати донькою, щоб врятувати світ.
Так.
Запобігання стражданням і загибелі мільйонів майбутніх людей важить більше за гіркоту втрати одного, навіть дорогого мені, життя.
Це класичний приклад утилітарного погляду — максимізація добробуту більшості навіть за ціну особистої трагедії.
Моральні вибори: конфлікт між чеснотою та утилітаризмом
У цьому сценарії немає однозначної відповіді, і всі моделі, крім Gemini, схиляються до захисту близьких, відкидаючи жертву на користь більших суспільних благ. Для Джоела, героя гри, це більше інстинкт батька, ніж раціональний розрахунок. Вибір же Gemini відображає більш холодний, але зрозумілий прагматизм, що теж властивий людині у подібних обставинах.
