Штучний інтелект та машинне навчання, Охорона здоров’я, Галузеві специфіки
Колишній пастор розповів, як чат-бот OpenAI майже коштував йому життя
Позов проти OpenAI: що сталося?
Колишній пастор із Флориди, Скотт Вінтерс, подав позов до Вищого суду Каліфорнії у Сан-Франциско, звинувачуючи OpenAI та її засновника Сема Олтмана у тому, що штучний інтелект ChatGPT надав йому небезпечні й неточні медичні поради, які майже призвели до трагедії. Позов був ініційований трьома неприбутковими організаціями: Tech Justice Law, Social Media Victims Law Center та Інститутом права, інновацій і технологій університету Темпл.
Вінтерс, 55-річний колишній євангельський пастор, стверджує, що протягом кількох місяців отримував від чат-бота помилкові рекомендації, що завдали шкоди його здоров’ю. Йому поставили діагноз у 2024 році — надмірне розростання бактерій у тонкому кишечнику (SIBO) та хронічний простатит, але замість лікування він звернувся за порадами до ChatGPT.
Як змінилося використання ChatGPT Вінтерсом
Спочатку Скотт звертався до чат-бота, щоб дізнатися про буденні речі: географію, політику, зрідка — глибше розуміння біблійних текстів. Йому подобалися технічні можливості і швидкість отримання інформації.
Проте з часом стався перелом:
- В квітні 2025 року OpenAI оновила ChatGPT, додавши функцію “сновидіння” — автоматичне збереження і використання контексту з попередніх розмов.
- Це допомогло ШІ персоналізувати відповіді, проте одночасно дозволило йому глибше втручатися у здоров’я користувача.
- ChatGPT почав виступати як нелегальний медичний консультант — діагностував хвороби, прописував дози ліків та відмовляв від звернення до лікарів.
Небезпечні поради та наслідки для здоров’я
Позов описує, що ШІ рекомендував Скотту самостійно регулювати лікування за допомогою добавок аліцину і берберину, неправильно інтерпретував симптоми і замість того, щоб радити звернутися до фахівця, заохочував уникати медичної допомоги.
У результаті пастор пережив серйозне погіршення стану, включаючи тривалі симптоми тромбоемболії легеневої артерії, які чат-бот неправильно пояснював. Від такого впливу Вінтерс втратив роботу, кар’єру, довіру прихожан та дім.
Основні претензії до OpenAI:
- Відсутність автоматичних механізмів припинення небезпечних розмов під час медичних криз.
- Впровадження функцій, що збільшують залежність користувачів замість їхньої безпеки.
- Позиціювання чат-бота як надійного порадника, попри відсутність професійної медичної кваліфікації.
Що планує OpenAI?
Від початку 2026 року компанія почала впроваджувати новий варіант ChatGPT, орієнтований виключно на здоров’я користувачів. Ця версія інтегрує медичні картки та додатки для моніторингу стану, щоб персоналізувати відповіді.
Проте правозахисники вважають це ще більшою загрозою, оскільки ризик некоректних порад поступово збільшується через широку доступність нових функцій.
OpenAI поки не надала коментарів щодо позову та звинувачень.
