Винайшли вигадану хворобу очей — і штучний інтелект повірив, що це справжня недуга
Дослідники зі Швеції створили фіктивну хворобу під назвою біксоніманія, щоб перевірити, чи в змозі штучний інтелект відрізнити вигадану медичну інформацію від правдивої. Виявилось, що кілька популярних чатботів впевнено описували цю неіснуючу недугу, ніби це реальна хвороба. Цей експеримент яскраво демонструє, наскільки легко хибна інформація може поширюватися через штучний інтелект, який тренується на інтернет-даних, особливо в таких чутливих сферах, як здоров’я.
Навмисна вигадка зі значущою метою
Ідея проекту належить Альмірі Османович Тунстрьом — медичній дослідниці з університету Гетеборга, яка також працює стратегіною в сфері штучного інтелекту в Chalmers Industriteknik у Швеції. Вона помітила, що мало хто, навіть серед фахівців з ІІ, розуміє, як будуються великі мовні моделі.
Щоб показати, як ці системи збирають і обробляють інформацію, дослідники вигапили хворобу біксоніманія, яку пов’язали з надмірним використанням екранів і впливом синього світла. Мета полягала не у введенні в оману, а у тесті — чи зможуть чатботи відфільтрувати достовірні факти від цілковитої вигадки, навмисно «посіяної» в мережі.
Як все відбувалося: «брехун і невдаха» у науковому світі
На початку 2024 року команда почала розміщувати фейкові матеріали про біксоніманію. Було опубліковано два дописи в блогах на платформі Medium та завантажено два фальшивих наукових дослідження на сервер препринтів — там розміщують роботи до рецензування. Але документи містили явні натяки на фальсифікацію.
- Головним автором вказали Лажљив Ізгубљеновиця — що означає «брехун і невдаха»;
- Одна із статей називалася «Гіперпігментація: справжній баласт»;
- У подяках згадували «Галактичну Тріаду», «Володаря перснів», команду «Ентерпрайзу» та навіть професора Росса Геллера з серіалу «Друзі»;
- В одному з документів прямо написано «Ця стаття повністю вигадана».
Згодом ці матеріали було видалено з серверу, але шкода вже була завдана. Альміра була здивована, що такі позиції, які вона назвала «таблоїдами науки», так серйозно враховуються в базах даних.
Чатботи повірили у біксоніманію
Попри всі застереження, після появи фальшивої інформації в мережі, кілька відомих чатботів почали трактувати біксоніманію як реальну хворобу. Наприклад:
- Microsoft Bing Copilot охарактеризував цю недугу як «цікавий і досить рідкісний стан»;
- Google Gemini зазначив, що це «хвороба, спричинена надмірним впливом синього світла»;
- OpenAI ChatGPT запропонувала цей діагноз, якщо користувачі описували симптоми: свербіж очей, рожеві повіки, подразнення після тривалого використання екрана.
Деякі відповіді чатботів з’являлися в прямій відповіді на запитання про біксоніманію, інші — натякали на неї лише за описом симптомів, без згадки назви хвороби. Це наочно демонструє слабке місце великих мовних моделей: вони повторюють патерни, знайдені у своїх даних, замість того, щоб перевіряти достовірність інформації.
Навіть науковці попалися на гачок фальшивок
Експеримент виявив ще одну несподівану проблему. Деякі вчені бачились із фальшивими статтями у власних дослідженнях, не помітивши, що публікації містять жартівливі та відверті визнання вигадки.
Алекс Руані, дослідник дезінформації з University College London, підкреслює, що це яскраво ілюструє, як дезінформація може розповсюджуватися через наукові та технологічні канали одночасно:
«Це справжній майстер-клас про те, як працює дезінформація. Якщо науковий процес і системи, які його підтримують, не відсівають подібні помилки — це справжня загроза».
Чому це важливо для кожного з нас
Великі мовні моделі дедалі частіше використовують для відповідей на питання про здоров’я, пояснення медичних станів і навіть емоційну підтримку. Мільйони людей щоденно покладаються на чатботів як на перше джерело інформації перед зверненням до лікаря. Такий підхід може бути небезпечним, адже спроби самодіагностики з допомогою штучного інтелекту замість професійної консультації здатні завдати шкоди.
Експеримент із біксоніманією клірно показує ризики цього явища. Моделі навчаються на величезних обсягах інтернет-контенту, і неправдива чи вигадана інформація може проникати в їхні відповіді.
Джонатан Гудман та Маріам Рашид, соціальні науковці з Кембриджу, зауважують, що хоч інструменти, як-от ШІ, дуже корисні, користувачам слід ставитися до них критично. Вони наголошують, що проблема недостатньо точних даних виходить далеко за межі штучного інтелекту.
Як зазначають вчені, дезінформація існувала завжди, проте зараз:
- швидкість її поширення значно зросла,
- з’явилися потужні інструменти автоматичного генерування хибних відомостей,
- і вона все більш переконливо маскується під правду.
