Як штучний інтелект ChatGPT змінює аудит і загрожує фінансуванню медичних та наукових установ у США
Запуск програми AERO: новий рівень контролю за державною підтримкою
Федеральний уряд США розпочав використання ChatGPT для аналізу п’ятирічних звітів про дотримання вимог кожної лікарні, некомерційної організації, університету та агенції Medicaid, які отримують державне фінансування. Програма носить назву AERO (Audit Enforcement and Risk Oversight), її ініціював Департамент охорони здоров’я і соціальних служб 21 травня 2026 року, не оголошуючи публічних тендерів, без публікації звіту про її точність і без визначеного початку застосування санкцій.
Відповіддю на позначення організації у цій системі може стати призупинення державної допомоги – тимчасове у вигляді затримки платежів або постійне через процедуру заборони брати участь у федеральних програмах.
Як працює AERO і де ховаються ризики помилок?
Основна складність у тому, що великі мовні моделі, такі як ChatGPT, формують відповіді, опираючись на ймовірні текстові шаблони, не маючи інструментів визначати невпевненість у конкретних фактах. Незалежне дослідження, опубліковане в квітні 2026 року в журналі Nature, довело, що спотворення чи “галюцинації” у таких моделях неминучі, особливо коли йдеться про факти, які неможливо навчати шаблонно.
Наприклад, у федеральних базах аудиторські звіти на вигляд схожі незалежно від того, чи було усунено недолік, якщо документ про це не зафіксовано вчасно, чи документ взагалі відсутній. При цьому, експерти з безпеки в медтехнологіях визнали неправильне використання ChatGPT одним із найбільших ризиків 2026 року.
Регуляторні правила й контроль — що сьогодні вимагає уряд США?
Відповідно до меморандуму Управління бюджетом і контролем (OMB) під кодом М-25-21, всі федеральні агенції, що застосовують штучний інтелект із серйозним впливом на громадян, повинні до 22 вересня 2026 року надати звіт із мінімальними заходами управління ризиками. Ці вимоги включають тестування перед запуском, постійний моніторинг і можливість людського перегляду рішень.
На сьогодні невідомо, чи відповідає AERO цим вимогам, оскільки департамент охорони здоров’я не розкриває ці дані публічно. Якщо звіт із вересня підтвердить невідповідність — можливо, цей проєкт доведеться закривати.
Що саме аналізує система та які організації під контролем AERO?
AERO сканує лише публічні звіти Single Audit — офіційні щорічні документи про виконання фінансових вимог, які подають організації, що витрачають понад 1 млн доларів державних коштів.
До кола таких організацій входять:
- державні Medicaid-агенції;
- публічні лікарні та медичні центри;
- університети з федеральними грантами;
- неурядові організації, які надають медичну або соціальну допомогу.
Ризики для них різні — від тимчасових затримок виплат до повного вилучення з федеральних фондів через процедуру дискваліфікації.
Законність та прозорість: виклики впровадження штучного інтелекту в державних перевірках
Програма AERO запущена без належного суспільного обговорення, процедур відкритих правил та оцінки достовірності, що вимагаються законом про адміністративні процедури (APA). Це означає, що організації не мали змоги ознайомитися з методологією чи оскаржити рішення перед застосуванням санкцій.
Юридичні експерти відзначають, що виводи AI системи без прозорої методології та обґрунтування не відповідають стандартам APA щодо прийнятності доказів. Окрім цього, внутрішні правила HHS щодо впровадження “Національної AI стратегії” передбачають перевірки на упередження, людський контроль і затвердження до запуску — проте немає ознак, що ці вимоги дотримані в AERO.
Відомі випадки, коли через неправильні дані застосовували санкції, наприклад, у розслідуванні щодо Medicaid у Нью-Йорку, що викликає сумніви у справедливості та об’єктивності системи.
Як ChatGPT розпізнає порушення і в чому полягають його слабкі місця?
AERO використовує аналіз звітів Single Audit та окремих форм (SF-SAC), де підсумовані фінансові знахідки. Модель вміє швидко знаходити закономірності:
- повторні порушення протягом кількох років,
- суттєві проблеми в контролі,
- випадки несвоєчасного подання аудиту.
Однак у випадках помірної складності, коли дефіцити усунуті, але документи не оновлені вчасно, AI може з упевненістю зазначити про невирішену проблему. Через брак сигналів про невизначеність та неточності у даних, які підтверджені звітами GAO, модель видає переконливі, але потенційно хибні висновки.
Взаємодія OpenAI та уряду: що стоїть за лаштунками AERO?
Інтеграція ChatGPT у федеральну систему співпадає з періодом, коли OpenAI готується до IPO і розглядає можливість передачі уряду частки в компанії. Компанія перебуває під масштабним розслідуванням зі сторони кількох штатів через питання безпеки даних та поведінки моделі.
Це ускладнює питання незалежності та прозорості контролю за AI, особливо коли уряд є і замовником, і потенційним акціонером технологічного продукту, який він використовує для регуляторних рішень.
AERO як зразок майбутніх закупівель AI у державних установах
Ініціатива HHS показує, що державні відомства можуть швидко впроваджувати готові AI-рішення на основі наявних даних без тривалих тендерів чи детального погодження. Заступник секретаря HHS Густав Чіарелло зазначив, що інші агентства можуть легко наслідувати цей приклад.
Якщо це стане нормою, федеральний уряд може перейти до нового підходу в закупівлях і контролі, де AI інструменти запускаються без широкого публічного обговорення та обов’язкової перевірки.
Не менш важливо, що незабаром мають стартувати судові розгляди за законами про шахрайство, які покладатимуть юридичну оцінку вагомості AI-звітів, що може сформувати прецеденти для майбутніх AI-програм у державному секторі.
Основні запитання щодо AERO
Що саме перевіряє AERO та чи можуть наслідки призвести до заморожування фінансування?
AERO аналізує звіти Single Audit — офіційні фінансові документи організацій, що отримують понад 1 млн долярів державних коштів і публікуються у Федеральному аудитному сховищі. Пряма перевірка заявок Medicaid чи Medicare програмою не здійснюється, але результати аналізу можуть спричинити затримки виплат, відмову в оплаті або повне виключення з програми фінансування.
Отримання листа від HHS, пов’язаного з AERO, не є остаточним рішенням про покарання. Але юристи радять подавати запити за Законом про свободу інформації (FOIA) для отримання детальної інформації про методологію AI, дослідження точності і дозволи від OMB.
Чому відсутність інформації про помилки ChatGPT у цьому контексті важлива?
Модель не має внутрішніх механізмів повідомляти про невпевненість у фактах, тому у випадках неповних або суперечливих даних вона може видавати хибно впевнену інформацію про порушення. З огляду на те, що база даних має зафіксовані відсутності і проблеми з якістю, алгоритм може помилково позначити організацію без наявної проблеми, а наразі немає публічної процедури оскарження до початку санкцій.
Що означає крайній термін 22 вересня 2026 року і які наслідки можливі?
Згідно з OMB M-25-21, всі “AI з високим рівнем впливу”, які суттєво впливають на доступ до державних послуг, мають до цього часу надати звіти щодо управління ризиками, включно з тестуванням, моніторингом і людським контролем. AERO відповідає цим критеріям, проте якщо у звіті HHS зазначать, що ці вимоги не виконано, програму можуть законно зупинити.
Чи можна оскаржити рішення AERO у суді?
Поки що це складно, однак експерти прогнозують початок судових розглядів, де ключовим стане стандарт закону про адміністративні процедури — “доводи, а не голослівність”. Відповідь організації повинна починатись зі збору документів через FOIA для створення фактичної бази, що ляже в основу юридичних позовів або апеляцій проти автоматизованих рішень.
