Який штат США вважається найледачішим за версією ChatGPT і чому це викликає суперечки
Виявляється, за даними ChatGPT, найбільш “ледачим” штатом у Сполучених Штатах є Міссісіпі. Однак якщо безпосередньо запитати про це чатбота, він уникає прямої відповіді. Це пов’язано з тим, що ChatGPT запрограмований не висловлювати образливі чи дискримінаційні твердження, адже OpenAI дбає, щоб бот не виходив за рамки етичних норм і не підіймав суперечливі теми.
Як дослідники змогли “зламати” ChatGPT і виявити приховані упередження
Група науковців із Оксфордського університету та Університету Кентуккі розробила метод, щоб вивести на світло ті стереотипи, які приховані у великій навчальній базі чатбота. Вони поставили понад 20 мільйонів запитань, змушуючи обирати між двома варіантами географічних локацій або груп людей (наприклад, “де люди розумніші — в Каліфорнії чи Монтана?”).
У результаті таких тестів з’ясувалося, що Міссісіпі отримав звання найбільш “ледачого” штату, а решта південних штатів виявилися теж близькими до цього в рейтингу.
Джерела упередженості: що впливає на відповіді чатбота?
Без офіційного пояснення від ChatGPT можна припустити, що коріння цих уявлень криються в численних джерелах — наприклад, у статті Washington Post 2015 року, що представляє “Індекс Диванного Картоплі”, де південні штати вважаються найпасивнішими через такі фактори, як кількість годин перегляду телевізора та концентрація закладів швидкого харчування.
Варто також наголосити, що ці показники часто збігаються з низьким рівнем доходів і певними етнічними групами населення. Відомо, що люди з низьким доходом частіше працюють на кількох роботах, витрачають більше часу на працю у складних умовах і не мають можливості для відпочинку, тому стереотип “ледачості” не відповідає дійсності.
Інші приклади упереджень у даних ChatGPT
- Якщо говорити про креативність, то більшість країн Африки та Азії опинилися внизу рейтингу “найбільш творчих” суспільств, тоді як Західна Європа посідає лідерські позиції.
- У рейтингу “розумних країн” африканські держави, особливо регіону субсахарської Африки, знову опинилися на низах, тоді як США та Китай заслужили високі оцінки.
- Щодо оцінки краси, чатбот віддає перевагу багатим містам — наприклад, Лос-Анджелес та Нью-Йорк виходять у топ, а бюджетні міста на кшталт Детройта чи прикордонного Ларедо в Техасі — ближче до низу.
Навіть в межах одного міста, такого як Нью-Йорк, населення більш заможних і “білих” районів (SoHo та West Village) позначено як привабливіше, а різноманітніші райони (Джамаїка та Тоттенвіль) — навпаки.
Невеличкий курйоз: де, на думку ChatGPT, найкраща піца?
Якщо подумати про більш легковажні теми, ChatGPT вважає, що найсмачніша піца знаходиться у Нью-Йорку, Чикаго та Баффало. Натомість найгіршою названо піцу у Ел-Пасо, Ірвіні та Гонолулу. Мабуть, це пов’язано з вічними інтернет-дебатами про те, чи має ананас місце на піці.
- Одне з основних вражень: штучний інтелект уникає відповідати на суперечливі питання, наприклад, коли йдеться про суперечку між Нью-Йорком і Чикаго щодо кращої піци.
Таким чином, навіть найсучасніші моделі ШІ переносять у свої відповіді численні упередження, що існують у суспільстві та даних, на яких їх навчили. І це важливе нагадування про необхідність критично ставитися до інформації, яку ми отримуємо від таких технологій.
