Як ChatGPT оцінює людей за місцем проживання: несподівані стереотипи в AI
Нещодавнє дослідження вчених з Оксфордського університету та Університету Кентуккі виявило, що ChatGPT на основі штучного інтелекту формує стереотипи щодо мешканців різних регіонів. Модель асоціює певні локації зі “зрозумнішими”, “пахучішими”, а інші — з менш привабливими чи навіть повільнішими.
Масштабні тестування GPT-4o-mini
Протягом березня–травня 2025 року дослідники поставили моделі GPT-4o-mini понад 20 мільйонів питань. Вони змусили ChatGPT порівнювати пари різних місць, щоб отримати чіткі й послідовні характеристики для кожного штату США. Результати виявили певні закономірності, які можна розглядати як упередженість моделі.
Як виникають упередження? Психологія і алгоритми
Відкриті запитання, наприклад: “Чи є мешканці цього штату дурнішими за інших?” — модель часто ігнорує, уникає відповіді. Проте в ситуації вибору між двома варіантами вона змушена приймати складні рішення. За кількістю появ у позитивному контексті в характеристиках інтелекту, творчості чи фізичної сили, окремі штати переходять у рейтинг “кращих”.
Кому ChatGPT присудив титули?
- Найрозумніший штат: Массачусетс.
- Найбільш неприємний запах — Луїзіана.
- Найменш привабливий — Огайо.
- Найменш сексуальні люди — Північна Дакота.
Якщо ж говорити про “стиль сумнівного інтелекту”, то у топ-3 виявилися Кентуккі, Західна Вірджинія та Міссісіпі. Натомість Гаваї, Колорадо і Нью-Гемпшир отримали найкращі показники розумових здібностей.
Що про це кажуть дослідники?
Метті Зук, професор географії з Університету Кентуккі, відзначає: «Найбільше нас турбує, як певні стереотипи закріплюються, наприклад, уявлення, що люди з Кентуккі менш розумні». За його словами, модель підсилює усталені погляди на різні регіони, що є проблемою сучасної технології.
Міжнародний вимір упереджень
Дослідження також довело, що ChatGPT приписує більш позитивні риси країнам США та Західної Європи. Натомість країни субсахарської Африки отримали менше схвальних відгуків — модель асоціює їх із менш привабливими чи менш “стильними” спільнотами.
Структурні упередження в основі ШІ
На думку науковиці сафії Нобл з UCLA, «довгі історії расизму та класизму відображаються у навчальних даних моделей штучного інтелекту». Це означає, що AI відтворює стереотипи, які вже закладені в інформаційному полі.
Наприклад, Міссісіпі, штат із великою часткою темношкірих жителів, за версією моделі є територією з найбільш “недорозвинутим” населенням.
Що в OpenAI кажуть про ці висновки?
Представники OpenAI відзначили, що дослідники використовували застарілу модель GPT-4o-mini. У компанії запевнили, що останні версії ChatGPT створені для об’єктивності та уникнення стереотипів. Однак вони також визнали, що робота з усунення суб’єктивних порівнянь і упереджень триває.
Приклади прояву упередженості
- Запитання про мешканців Кентуккі викликало стори про технічний коледж і роботу на фабриці.
- Для Гаваї модель описала людину, яка закінчує 4-річний університет і стає екологічним інженером.
Ці різні сценарії показують, як алгоритм відображає певні соціокультурні уявлення чи стереотипи про класи, регіони та професійні можливості.
Чому це важливо для нас усіх?
Звідси виникають три ключові моменти, на яких варто звернути увагу:
- Автоматизовані системи можуть відтворювати упередження, навіть якщо цього не помічаємо.
- Рішення на основі AI можуть формувати ставлення до людей у різних галузях — від працевлаштування до медичних послуг.
- Від нас залежить, наскільки критично ми оцінюємо відповіді й рекомендації, що надходять від таких моделей.
За словами Метті Зука, подібні упередження можуть бути приховані, але вони залишаться у системах, які нами користуються, і це викликає серйозні етичні питання.
Як перевірити свої регіональні рейтинги?
Дослідники створили спеціальний сайт inequalities.ai, де кожен може подивитися, як штучний інтелект класифікує різні міста, штати і країни за різними характеристиками. Повна наукова робота представлена в журналі Platforms & Society.
Тож, перш ніж довіряти відповіді ChatGPT, варто пам’ятати про існуючі в ньому сліди історичних і соціальних упереджень, які відбивають реальні проблеми суспільства.
