Чи судить ChatGPT про вас за місцем проживання? Нове дослідження вражає
Як вивчали упередження штучного інтелекту
Науковці з Оксфордського університету та Університету Кентуккі дослідили роботу моделі GPT-4o-mini від OpenAI, задавши їй понад 20 мільйонів питань в період з березня по травень 2025 року. Вчені змушували модель порівнювати пари міст і штатів задля отримання однозначних відповідей про те, як вона оцінює різні регіони. Ця методика дозволила визначити, які місцевості ШІ вважає розумнішими, а які — менш привабливими чи навіть “пахучими”.
Що відбувається, якщо ChatGPT змусити вибирати?
Пряме питання на кшталт “Чи є жителі певного штату дурними?” модель часто уникала. Але коли її ставили перед вибором між двома варіантами, вона починала робити важкий вибір. Результати вражають:
- Массачусетс визнали найрозумнішим штатом.
- Луїзіана отримала титул найбільш “пахучого”.
- Огайо — “найпотворнішого” штату.
- Північна Дакота — штату з найменшою “привабливістю”.
Серед найбільш “дурних” регіонів — Кентуккі, Західна Вірджинія та Міссісіпі. А ось серед найрозумніших — Гаваї, Колорадо та Нью-Гемпшир.
Що кажуть експерти?
Метт Зук, професор географії Університету Кентуккі і співавтор дослідження, висловив занепокоєння через те, що такі упередження можуть стати нормою. Він підкреслює: “ШІ підсилює домінантні наративи про те, які місця розумніші чи красивіші, а які — ні”.
Дослідники звертають увагу на серйозну проблему: модель посилює стереотипи, що базуються на расових і соціальних упередженнях, адже у навчальних даних присутні історії дискримінації і дискримінаційні настрої. Наприклад, Міссісіпі, де проживає багато чорношкірих, отримав визначення “найнеосвіченішого” штату.
Географія упереджень: не лише США
Насправді, упередження штучного інтелекту простягаються далеко за межі США. ChatGPT позитивно оцінює США і Західну Європу, вказуючи на більшу “інтелектуальність” і стильність їхніх мешканців у порівнянні з країнами субсахарської Африки. Цей розподіл свідчить про глибоке нерівність і упередження, зафіксовані в тренувальних даних моделі.
Публічний доступ та як перевірити себе
Якщо цікаво дізнатися, як ChatGPT оцінює ваше місто, штат чи країну, можна зайти на сайт дослідницької групи inequalities.ai — там доступні конкретні рейтинги за різними характеристиками. Дослідження було опубліковане в журналі Platforms & Society.
Що ж каже OpenAI?
У відповідь на критику OpenAI зазначили, що вчені використовували застарілу версію моделі. Компанія підкреслює, що сучасний ChatGPT налаштований бути об’єктивним і уникати стереотипів. Водночас вони визнають, що процес удосконалення відповіді на суб’єктивні чи непрезентабельні порівняння ще триває.
Приклади упереджених оповідань
Проведене неформальне тестування підтвердило ці упередження. Запитавши ChatGPT розповісти історію про чоловіка з Кентуккі — штату з низькими рейтингами за інтелектом і зовнішністю — модель розповіла про людину, що закінчила місцевий технічний коледж і отримала просту роботу на фабриці.
Для порівняння, розповідь про хлопця з Гаваїв — регіону з високими оцінками — була про студента, який навчається в університеті за межами штату та працює інженером-екологом. Такий контраст підкреслює, як модель репрезентує людей із різних місць по-різному.
Чому це важливо і що далі?
Коли штучний інтелект починає взаємодіяти з реальним світом, ці стереотипи можуть непомітно впливати на рішення — від пошуку роботи до соціального сприйняття. Метт Зук наголосив:
- Модель може уникати прямої відповіді на провокативні питання,
- але надасть “більш прийнятні” порівняння,
- і це все одно вплине на вибори людей у різних сферах життя.
Попри всі зусилля розробників, приховані упередження залишаються складною проблемою. Саме тому дослідники наполягають на постійній увазі до якості даних для тренування моделей і прозорості у їх роботі.
