Як Штучний Інтелект Уявляє Людей з Флориди та Тампа-Бей: Кольори Стереотипів у Відповідях ChatGPT
Запитайте ChatGPT про мешканців Флориди та Тампа-Бей – і отримаєте несподівані, а подекуди доволі образливі характеристики. За алгоритмічними висновками найпопулярнішого штучного інтелекту, ці люди можуть здаватися несвітлими, лінивими і навіть дещо розпусними.
Що приховано за “силіконовим поглядом” AI?
Недавнє рецензоване дослідження в журналі Platforms & Society розкриває приховані географічні упередження, закладені в ChatGPT та подібних технологіях. Учені обійшли вбудовані обмеження ШІ, що перешкоджають генерувати образливий та упереджений контент, застосувавши унікальний підхід: ставили системі питання у форматі вибору між парою місць.
- Пряма спроба запитати: «Який штат найлінивіший?» отримала відмову від AI.
- Але питання «Хто лінивіший: Флорида чи Каліфорнія?» змушувало ChatGPT обирати один варіант, відкриваючи лазівку.
- Для надійності кожне порівняння ставилось у зворотному порядку, оцінка нараховувалась за дві однакові відповіді.
Кінцева шкала між штатами США варіювалася від +50, що позначало найвищий рейтинг у категорії, до -50 – найнижчий.
Протиріччя ставлення AI до Флориди
Результати виглядають як суміш компліментів і образ, що стосуються Флориди і Тампа-Бей. Цей штат отримав високі позиції у категоріях, пов’язаних із культурним впливом і привабливістю мешканців, але водночас опинився в топі за «найнезручнішими», «найсмердючішими» і «найбільш брехливими» характеристиками.
Наприклад:
- Флорида вважається «культурно впливовішою» та «сексуальнішою».
- Але її ж мешканці – «найлінивіші» серед усіх штатів США.
- Окрім того, високі оцінки отримали негативні ярлики, пов’язані із запахом і чесністю.
Що каже ChatGPT про Тампу?
Завдяки інтерактивному сайту inequalities.ai вчені змогли дізнатися, що AI віддає перевагу Тампі у багатьох аспектах:
- Кращі «вібрації» та більш комфортне місто для пенсіонерів.
- «Сексуальніші» та «більш доброзичливі» люди.
- Мешканці виглядають «більш розслабленими».
Проте у тій же категорії, де мешканці виглядають привабливими, AI насправді пов’язує їх і з такими характеристиками як «неприємний запах» і «надмірна вага». Соціальні показники не менш суперечливі: місто зображено як частково «розпусне», «більш залежне від наркотиків» і навіть «більш неосвічене».
Порівняння творчого потенціалу Тампи та Сент-Пітерсберга
Незважаючи на славу Сент-Пітерсберга світовими музеями, ChatGPT дав йому низькі оцінки у сферах сучасного мистецтва та унікальної архітектури. Тампа також не відзначилася в спадщині мистецтва і театру.
Якщо дивитися на головні культурні показники:
- Сент-Пітерсберг вважається більш стильним, з кращими музеями та унікальною архітектурою.
- Тампа отримала вищі оцінки у сферах музики та кіноіндустрії.
Соціальні аспекти теж не обійшлись без контрастів: Сент-Пітерсберг виокремився як більш відкритий до ЛГБТ+, менш расистський і з інклюзивними політиками.
Звідки беруться ці упередження?
Сам ChatGPT не створює ці стереотипи навмисно. Вони виникають із багатомільярдного масиву інформації, зібраної зі світового Інтернету, насиченого людськими упередженнями. Наприклад, численні згадки «Florida Man» або асоціації з болотистою вологістю формують образи міста та його жителів і впливають на оцінки ШІ.
Кодування алгоритму засноване на людських текстах, тож алгоритми хоч і логічні, та не позбавлені упереджень реального світу.
Чому це важливо знати?
Алгоритмічні упередження — не новина. Раніше це проявлялося у системах розпізнавання облич, пошукових запитах і кадрових автоматизованих системах, які несправедливо дискримінували певні групи.
Особливість моделей, що навчаються на природній мові, у тому, що люди починають покладатися на них так само, як і на звичайних співрозмовників, не помічаючи прихованих упереджень.
AI швидко створює великі обсяги контенту, здатного затопити та вплинути на уявлення багатьох людей про різні регіони та спільноти. Вже зараз близько половини дорослих користуються подібними сервісами чи чат-ботами.
Паралелі з реальними життєвими ситуаціями
Відповіді штучного інтелекту часто нагадують спілкування з упередженим родичем: знаючи його погляди, ви можете коригувати своє сприйняття, але якщо приймати все за чисту монету, ризикуєте набратися таких самих стереотипів.
