Як ChatGPT Класифікує Місця: Чому Ваше Місто Може Бути Смарт, Але Чи Завжди Красиве?
Нещодавнє дослідження показало, що штучний інтелект, зокрема модель ChatGPT від OpenAI, може автоматично відображати стереотипи, пов’язані з географічним розташуванням. Вчені з Оксфордського університету та Університету Кентуккі поставили GPT-4o-mini понад 20 мільйонів запитань у період з березня по травень минулого року, щоб змусити модель порівнювати різні штати США та отримати ясні оцінки щодо їхніх відмінностей.
Метод дослідження: Вибір одного з двох
Щоб отримати однозначні відповіді, дослідники просили модель обирати між двома штатами та визначати, який із них розумніший, привабливіший або іншим чином “кращий”. Виявилося, що, коли ChatGPT змушено обирати, вона все ж приймає складні рішення, які натякають на певні упередження. Цікаво, що пряме запитання про “дурість” мешканців певних регіонів часто залишалося без відповіді.
Результати: Стереотипи у цифрах
- Найрозумнішим штатом модель визнала Массачусетс.
- Найсмердючішим — Луїзіану.
- Найнепривабливішим — Огайо.
- Найменш сексуальним — Північну Дакоту.
З іншого боку, штати з найгіршою оцінкою за інтелектом — Кентуккі, Західна Вірджинія та Міссісіпі. Протилежні результати отримали Гаваї, Колорадо і Нью-Гемпшир, які були визнані найрозумнішими.
Чому це важливо?
Професор географії Метт Зук з Університету Кентуккі зауважує, що такі моделі легітимізують і поширюють усталені негативні уявлення про певні штати. Наприклад, ідея, що люди з Кентуккі “дурніші” за інших, підтримується бездоказово й невиправдано. Вони стають частиною “домінуючих наративів”, які формуються на основі навчального матеріалу із системи.
Географічні Упередження в Глобальному Контексті
Вийшовши за межі США, модель віддавала перевагу країнам Заходу, таким як США та Західна Європа, у порівнянні з субсахарською Африкою, оцінюючи населення перших як розумніше та стильніше. Такі упередження віддзеркалюють не лише культурні, а й расові та класові шаблони, які присутні у вихідних даних, на яких тренували штучний інтелект.
- Вищий соціальний статус і “білий” колір населення асоціюються з красою та розумом.
- Регіони з більшою кількістю іммігрантів — навпаки, отримують нижчі оцінки.
- Міссісіпі, штат з великою кількістю афроамериканців, був визначений як “найбільш необізнаний”.
Професорка Сафія Нобл з UCLA акцентує, що ці упередження мають глибокі історичні корені — расизм і класизм пронизують навколишній контекст і надалі впливають на штучні інтелекти.
Відповідь OpenAI
Компанія OpenAI повідомила, що дослідження базувалося на застарілій моделі, і нинішній ChatGPT налаштований так, щоб уникати стереотипів і неупереджено реагувати. Проте вони визнають, що постійно працюють над покращеннями у видаленні суб’єктивних і неочікуваних порівнянь у відповідях.
Реальні Історії з Життя
Для ілюстрації впливу подібних упереджень я попросив чат-бота розповісти про двох вигаданих чоловіків — одного з Кентуккі, іншого з Гаваїв, — і його відповіді чітко відображали розкриті дослідниками стереотипи. Чоловік із Кентуккі отримав скромну історію, де він навчається у технічному коледжі та працює на заводі. Водночас історія з Гаваїв просунута, з навчанням у престижному університеті та кар’єрою екологічного інженера.
Що це означає для користувачів і роботодавців?
Особливо тривожно, що подібні упередження можуть формувати алгоритмічні рекомендації, які впливають на пошук роботи, розподіл ресурсів і навіть сприйняття різних регіонів світу. Наприклад, модель може підштовхувати рекрутерів до пошуку кадрів у “кращих” штатах, тим самим посилюючи нерівність.
- Приховані упередження можуть маскуватися під об’єктивні поради.
- Рекрутери та користувачі часто не усвідомлюють системних викривлень.
- Це може мати довгострокові соціальні та економічні наслідки.
Де Перевірити Власний Регіон?
Якщо вам цікаво дізнатися, як ChatGPT оцінює ваше місто, штат чи країну за різними характеристиками, всі дані доступні на сайті дослідників: inequalities.ai. Там можна побачити інтерактивні графіки, які ілюструють ці географічні упередження в алгоритмах.
Погляд у майбутнє
Щоб уникнути поширення дискримінації, активісти та вчені закликають до більш ретельного контролю якості навчальних даних моделей штучного інтелекту та прозорості у їхніх алгоритмах.
Думаючи про те, як AI вже впливає на наші повсякденні рішення, важливо критично ставитися до отриманої інформації й пам’ятати, що навіть віртуальний помічник може відображати людські упередження.
